ailia_llm  1.3.1.0
ailia LLMの概要

ailia LLMの概要

ailia LLMはUnityやC++から使用できるLLMの推論ライブラリです。 簡単なAPIでローカルLLMを使用した推論を実装することが可能です。

対応プラットフォーム

ailia LLMはWindows、macOS、Linux、iOS、Androidで動作します。

  • Windows 10以降
  • macOS 13.3以降
  • iOS 16.4以降
  • Ubuntu 20.04以降
  • Android NDK r23c