ailiaLlmFFI class

Written for the FFI article

Constructors

ailiaLlmFFI(DynamicLibrary dynamicLibrary)
The symbols are looked up in dynamicLibrary.
ailiaLlmFFI.fromLookup(Pointer<T> lookup(String symbolName))
The symbols are looked up with lookup.

Properties

daylight ↔ int
getter/setter pair
getdate_err ↔ int
getter/setter pair
hashCode → int
The hash code for this object.
no setterinherited
runtimeType → Type
A representation of the runtime type of the object.
no setterinherited
sys_errlist ↔ Pointer<Pointer<Char>>
getter/setter pair
sys_nerr → int
no setter
timezone ↔ int
getter/setter pair
tzname ↔ Pointer<Pointer<Char>>
getter/setter pair

Methods

ailiaLLMCreate(Pointer<Pointer<AILIALLM>> llm) → int
~japanese @brief LLMオブジェクトを作成します。 @param llm LLMオブジェクトポインタへのポインタ @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details LLMオブジェクトを作成します。
ailiaLLMDestroy(Pointer<AILIALLM> llm) → void
~japanese @brief LLMオブジェクトを破棄します。 @param llm LLMオブジェクトポインタ
ailiaLLMGenerate(Pointer<AILIALLM> llm, Pointer<UnsignedInt> done) → int
~japanese @brief 生成を行います。 @param llm LLMオブジェクトポインタ @param done 生成が完了したか @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details デコードした結果はailiaLLMGetDeltaText APIで取得します。 ailiaLLMGenerateを呼び出すたびに1トークンずつデコードします。 doneは0か1を取ります。doneが1の場合、生成完了となります。
ailiaLLMGetBackendCount(Pointer<UnsignedInt> env_count) → int
~japanese @brief 利用可能な計算環境(CPU, GPU)の数を取得します @param env_count 計算環境情報の数の格納先 @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。
ailiaLLMGetBackendName(Pointer<Pointer<Char>> env, int env_idx) → int
~japanese @brief 計算環境の一覧を取得します @param env 計算環境情報の格納先(AILIANetworkインスタンスを破棄するまで有効) @param env_idx 計算環境情報のインデックス(0～ ailiaLLMGetBackendCount() -1) @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。
ailiaLLMGetContextSize(Pointer<AILIALLM> llm, Pointer<UnsignedInt> context_size) → int
~japanese @brief コンテキストの長さを取得します。 @param llm LLMオブジェクトポインタ @param len コンテキストの長さ @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。
ailiaLLMGetDeltaText(Pointer<AILIALLM> llm, Pointer<Char> text, int buf_size) → int
~japanese @brief テキストを取得します。 @param llm LLMオブジェクトポインタ @param text テキスト(UTF8) @param buf_size バッファサイズ @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details ailiaLLMGenerate() を一度も実行していない場合は \ref AILIA_LLM_STATUS_INVALID_STATE が返ります。
ailiaLLMGetDeltaTextSize(Pointer<AILIALLM> llm, Pointer<UnsignedInt> buf_size) → int
~japanese @brief テキストの長さを取得します。(NULL文字含む) @param llm LLMオブジェクトポインタ @param buf_size テキストの長さ @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。
ailiaLLMGetGeneratedTokenCount(Pointer<AILIALLM> llm, Pointer<UnsignedInt> cnt) → int
~japanese @brief 生成したトークンの数を取得します。 @param llm LLMオブジェクトポインタ @param cnt 生成したトークンの数 @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details ailiaLLMGenerateを呼び出した後に呼び出し可能です。
ailiaLLMGetPromptTokenCount(Pointer<AILIALLM> llm, Pointer<UnsignedInt> cnt) → int
~japanese @brief プロンプトトークンの数を取得します。 @param llm LLMオブジェクトポインタ @param cnt プロンプトトークンの数 @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details ailiaLLMSetPromptを呼び出した後に呼び出し可能です。
ailiaLLMGetTokenCount(Pointer<AILIALLM> llm, Pointer<UnsignedInt> cnt, Pointer<Char> text) → int
~japanese @brief トークンの数を取得します。 @param llm LLMオブジェクトポインタ @param cnt トークンの数 @param text テキスト(UTF8) @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。
ailiaLLMOpenModelFileA(Pointer<AILIALLM> llm, Pointer<Char> path, int n_ctx) → int
~japanese @brief モデルファイルを読み込みます。 @param llm LLMオブジェクトポインタへのポインタ @param path GGUFファイルのパス @param n_ctx コンテキスト長（0でモデルのデフォルト） @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details GGUFのモデルファイルを読み込みます。
ailiaLLMOpenModelFileW(Pointer<AILIALLM> llm, Pointer<WChar> path, int n_ctx) → int
ailiaLLMSetPrompt(Pointer<AILIALLM> llm, Pointer<AILIALLMChatMessage> message, int message_cnt) → int
~japanese @brief プロンプトを設定します。 @param llm LLMオブジェクトポインタへのポインタ @param message メッセージの配列 @param message_cnt メッセージの数 @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details LLMに問い合わせるプロンプトを設定します。 ChatHistoryもmessageに含めてください。
ailiaLLMSetSamplingParams(Pointer<AILIALLM> llm, int top_k, double top_p, double temp, int dist) → int
~japanese @brief サンプリングのパラメータを設定します。 @param llm LLMオブジェクトポインタへのポインタ @param top_k サンプリングする確率値の上位個数、デフォルト40 @param top_p サンプリングする確率値の範囲、デフォルト0.9（0.9〜1.0） @param temp 温度パラメータ、デフォルト0.4 @param dist シード、デフォルト1234 @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details LLMのサンプリングの設定を行います。ailiaLLMSetPromptの前に実行する必要があります。
asctime(Pointer<tm> arg0) → Pointer<Char>
asctime_r(Pointer<tm> arg0, Pointer<Char> arg1) → Pointer<Char>
asprintf(Pointer<Pointer<Char>> arg0, Pointer<Char> arg1) → int
btowc(int arg0) → int
clearerr(Pointer<FILE> arg0) → void
clock() → int
clock_getres(clockid_t __clock_id, Pointer<timespec> __res) → int
clock_gettime(clockid_t __clock_id, Pointer<timespec> __tp) → int
clock_gettime_nsec_np(clockid_t __clock_id) → Dart__uint64_t
clock_settime(clockid_t __clock_id, Pointer<timespec> __tp) → int
ctermid(Pointer<Char> arg0) → Pointer<Char>
ctermid_r(Pointer<Char> arg0) → Pointer<Char>
ctime(Pointer<time_t> arg0) → Pointer<Char>
ctime_r(Pointer<time_t> arg0, Pointer<Char> arg1) → Pointer<Char>
difftime(int arg0, int arg1) → double
dprintf(int arg0, Pointer<Char> arg1) → int
fclose(Pointer<FILE> arg0) → int
fdopen(int arg0, Pointer<Char> arg1) → Pointer<FILE>
feof(Pointer<FILE> arg0) → int
ferror(Pointer<FILE> arg0) → int
fflush(Pointer<FILE> arg0) → int
fgetc(Pointer<FILE> arg0) → int
fgetln(Pointer<FILE> arg0, Pointer<Size> arg1) → Pointer<Char>
fgetpos(Pointer<FILE> arg0, Pointer<fpos_t> arg1) → int
fgets(Pointer<Char> arg0, int arg1, Pointer<FILE> arg2) → Pointer<Char>
fgetwc(Pointer<FILE> arg0) → int
fgetwln(Pointer<FILE> arg0, Pointer<Size> arg1) → Pointer<WChar>
fgetws(Pointer<WChar> arg0, int arg1, Pointer<FILE> arg2) → Pointer<WChar>
fileno(Pointer<FILE> arg0) → int
flockfile(Pointer<FILE> arg0) → void
fmemopen(Pointer<Void> __buf, int __size, Pointer<Char> __mode) → Pointer<FILE>
fmtcheck(Pointer<Char> arg0, Pointer<Char> arg1) → Pointer<Char>
fopen(Pointer<Char> __filename, Pointer<Char> __mode) → Pointer<FILE>
fprintf(Pointer<FILE> arg0, Pointer<Char> arg1) → int
fpurge(Pointer<FILE> arg0) → int
fputc(int arg0, Pointer<FILE> arg1) → int
fputs(Pointer<Char> arg0, Pointer<FILE> arg1) → int
fputwc(int arg0, Pointer<FILE> arg1) → int
fputws(Pointer<WChar> arg0, Pointer<FILE> arg1) → int
fread(Pointer<Void> __ptr, int __size, int __nitems, Pointer<FILE> __stream) → int
freopen(Pointer<Char> arg0, Pointer<Char> arg1, Pointer<FILE> arg2) → Pointer<FILE>
fscanf(Pointer<FILE> arg0, Pointer<Char> arg1) → int
fseek(Pointer<FILE> arg0, int arg1, int arg2) → int
fseeko(Pointer<FILE> __stream, int __offset, int __whence) → int
fsetpos(Pointer<FILE> arg0, Pointer<fpos_t> arg1) → int
ftell(Pointer<FILE> arg0) → int
ftello(Pointer<FILE> __stream) → int
ftrylockfile(Pointer<FILE> arg0) → int
funlockfile(Pointer<FILE> arg0) → void
funopen(Pointer<Void> arg0, Pointer<NativeFunction<Int Function(Pointer<Void>, Pointer<Char>, Int)>> arg1, Pointer<NativeFunction<Int Function(Pointer<Void>, Pointer<Char>, Int)>> arg2, Pointer<NativeFunction<fpos_t Function(Pointer<Void>, fpos_t, Int)>> arg3, Pointer<NativeFunction<Int Function(Pointer<Void>)>> arg4) → Pointer<FILE>
fwide(Pointer<FILE> arg0, int arg1) → int
fwprintf(Pointer<FILE> arg0, Pointer<WChar> arg1) → int
fwrite(Pointer<Void> __ptr, int __size, int __nitems, Pointer<FILE> __stream) → int
fwscanf(Pointer<FILE> arg0, Pointer<WChar> arg1) → int
getc(Pointer<FILE> arg0) → int
getc_unlocked(Pointer<FILE> arg0) → int
getchar() → int
getchar_unlocked() → int
getdate(Pointer<Char> arg0) → Pointer<tm>
getdelim(Pointer<Pointer<Char>> __linep, Pointer<Size> __linecapp, int __delimiter, Pointer<FILE> __stream) → int
getline(Pointer<Pointer<Char>> __linep, Pointer<Size> __linecapp, Pointer<FILE> __stream) → int
gets(Pointer<Char> arg0) → Pointer<Char>
getw(Pointer<FILE> arg0) → int
getwc(Pointer<FILE> arg0) → int
getwchar() → int
gmtime(Pointer<time_t> arg0) → Pointer<tm>
gmtime_r(Pointer<time_t> arg0, Pointer<tm> arg1) → Pointer<tm>
localtime(Pointer<time_t> arg0) → Pointer<tm>
localtime_r(Pointer<time_t> arg0, Pointer<tm> arg1) → Pointer<tm>
mbrlen(Pointer<Char> arg0, int arg1, Pointer<mbstate_t> arg2) → int
mbrtowc(Pointer<WChar> arg0, Pointer<Char> arg1, int arg2, Pointer<mbstate_t> arg3) → int
mbsinit(Pointer<mbstate_t> arg0) → int
mbsnrtowcs(Pointer<WChar> arg0, Pointer<Pointer<Char>> arg1, int arg2, int arg3, Pointer<mbstate_t> arg4) → int
mbsrtowcs(Pointer<WChar> arg0, Pointer<Pointer<Char>> arg1, int arg2, Pointer<mbstate_t> arg3) → int
mktime(Pointer<tm> arg0) → int
nanosleep(Pointer<timespec> __rqtp, Pointer<timespec> __rmtp) → int
noSuchMethod(Invocation invocation) → dynamic
Invoked when a nonexistent method or property is accessed.
inherited
open_memstream(Pointer<Pointer<Char>> __bufp, Pointer<Size> __sizep) → Pointer<FILE>
open_wmemstream(Pointer<Pointer<WChar>> __bufp, Pointer<Size> __sizep) → Pointer<FILE>
pclose(Pointer<FILE> arg0) → int
perror(Pointer<Char> arg0) → void
popen(Pointer<Char> arg0, Pointer<Char> arg1) → Pointer<FILE>
posix2time(int arg0) → int
printf(Pointer<Char> arg0) → int
putc(int arg0, Pointer<FILE> arg1) → int
putc_unlocked(int arg0, Pointer<FILE> arg1) → int
putchar(int arg0) → int
putchar_unlocked(int arg0) → int
puts(Pointer<Char> arg0) → int
putw(int arg0, Pointer<FILE> arg1) → int
putwc(int arg0, Pointer<FILE> arg1) → int
putwchar(int arg0) → int
remove(Pointer<Char> arg0) → int
rename(Pointer<Char> __old, Pointer<Char> __new) → int
renameat(int arg0, Pointer<Char> arg1, int arg2, Pointer<Char> arg3) → int
renameatx_np(int arg0, Pointer<Char> arg1, int arg2, Pointer<Char> arg3, int arg4) → int
renamex_np(Pointer<Char> arg0, Pointer<Char> arg1, int arg2) → int
rewind(Pointer<FILE> arg0) → void
scanf(Pointer<Char> arg0) → int
setbuf(Pointer<FILE> arg0, Pointer<Char> arg1) → void
setbuffer(Pointer<FILE> arg0, Pointer<Char> arg1, int arg2) → void
setlinebuf(Pointer<FILE> arg0) → int
setvbuf(Pointer<FILE> arg0, Pointer<Char> arg1, int arg2, int arg3) → int
snprintf(Pointer<Char> __str, int __size, Pointer<Char> __format) → int
sprintf(Pointer<Char> arg0, Pointer<Char> arg1) → int
sscanf(Pointer<Char> arg0, Pointer<Char> arg1) → int
strftime(Pointer<Char> arg0, int arg1, Pointer<Char> arg2, Pointer<tm> arg3) → int
strptime(Pointer<Char> arg0, Pointer<Char> arg1, Pointer<tm> arg2) → Pointer<Char>
swprintf(Pointer<WChar> arg0, int arg1, Pointer<WChar> arg2) → int
swscanf(Pointer<WChar> arg0, Pointer<WChar> arg1) → int
tempnam(Pointer<Char> __dir, Pointer<Char> __prefix) → Pointer<Char>
time(Pointer<time_t> arg0) → int
time2posix(int arg0) → int
timegm(Pointer<tm> arg0) → int
timelocal(Pointer<tm> arg0) → int
timespec_get(Pointer<timespec> ts, int base) → int
tmpfile() → Pointer<FILE>
tmpnam(Pointer<Char> arg0) → Pointer<Char>
toString() → String
A string representation of this object.
inherited
tzset() → void
tzsetwall() → void
ungetc(int arg0, Pointer<FILE> arg1) → int
ungetwc(int arg0, Pointer<FILE> arg1) → int
vasprintf(Pointer<Pointer<Char>> arg0, Pointer<Char> arg1, va_list arg2) → int
vdprintf(int arg0, Pointer<Char> arg1, va_list arg2) → int
vfprintf(Pointer<FILE> arg0, Pointer<Char> arg1, va_list arg2) → int
vfscanf(Pointer<FILE> __stream, Pointer<Char> __format, va_list arg2) → int
vfwprintf(Pointer<FILE> arg0, Pointer<WChar> arg1, __darwin_va_list arg2) → int
vfwscanf(Pointer<FILE> arg0, Pointer<WChar> arg1, __darwin_va_list arg2) → int
vprintf(Pointer<Char> arg0, va_list arg1) → int
vscanf(Pointer<Char> __format, va_list arg1) → int
vsnprintf(Pointer<Char> __str, int __size, Pointer<Char> __format, va_list arg3) → int
vsprintf(Pointer<Char> arg0, Pointer<Char> arg1, va_list arg2) → int
vsscanf(Pointer<Char> __str, Pointer<Char> __format, va_list arg2) → int
vswprintf(Pointer<WChar> arg0, int arg1, Pointer<WChar> arg2, __darwin_va_list arg3) → int
vswscanf(Pointer<WChar> arg0, Pointer<WChar> arg1, __darwin_va_list arg2) → int
vwprintf(Pointer<WChar> arg0, __darwin_va_list arg1) → int
vwscanf(Pointer<WChar> arg0, __darwin_va_list arg1) → int
wcpcpy(Pointer<WChar> arg0, Pointer<WChar> arg1) → Pointer<WChar>
wcpncpy(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → Pointer<WChar>
wcrtomb(Pointer<Char> arg0, int arg1, Pointer<mbstate_t> arg2) → int
wcscasecmp(Pointer<WChar> arg0, Pointer<WChar> arg1) → int
wcscat(Pointer<WChar> arg0, Pointer<WChar> arg1) → Pointer<WChar>
wcschr(Pointer<WChar> arg0, int arg1) → Pointer<Int>
wcscmp(Pointer<WChar> arg0, Pointer<WChar> arg1) → int
wcscoll(Pointer<WChar> arg0, Pointer<WChar> arg1) → int
wcscpy(Pointer<WChar> arg0, Pointer<WChar> arg1) → Pointer<WChar>
wcscspn(Pointer<WChar> arg0, Pointer<WChar> arg1) → int
wcsdup(Pointer<WChar> arg0) → Pointer<WChar>
wcsftime(Pointer<WChar> arg0, int arg1, Pointer<WChar> arg2, Pointer<tm> arg3) → int
wcslcat(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → int
wcslcpy(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → int
wcslen(Pointer<WChar> arg0) → int
wcsncasecmp(Pointer<WChar> arg0, Pointer<WChar> arg1, int n) → int
wcsncat(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → Pointer<WChar>
wcsncmp(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → int
wcsncpy(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → Pointer<WChar>
wcsnlen(Pointer<WChar> arg0, int arg1) → int
wcsnrtombs(Pointer<Char> arg0, Pointer<Pointer<WChar>> arg1, int arg2, int arg3, Pointer<mbstate_t> arg4) → int
wcspbrk(Pointer<WChar> arg0, Pointer<WChar> arg1) → Pointer<WChar>
wcsrchr(Pointer<WChar> arg0, int arg1) → Pointer<WChar>
wcsrtombs(Pointer<Char> arg0, Pointer<Pointer<WChar>> arg1, int arg2, Pointer<mbstate_t> arg3) → int
wcsspn(Pointer<WChar> arg0, Pointer<WChar> arg1) → int
wcsstr(Pointer<WChar> arg0, Pointer<WChar> arg1) → Pointer<WChar>
wcstod(Pointer<WChar> arg0, Pointer<Pointer<WChar>> arg1) → double
wcstof(Pointer<WChar> arg0, Pointer<Pointer<WChar>> arg1) → double
wcstok(Pointer<WChar> arg0, Pointer<WChar> arg1, Pointer<Pointer<WChar>> arg2) → Pointer<WChar>
wcstol(Pointer<WChar> arg0, Pointer<Pointer<WChar>> arg1, int arg2) → int
wcstoll(Pointer<WChar> arg0, Pointer<Pointer<WChar>> arg1, int arg2) → int
wcstoul(Pointer<WChar> arg0, Pointer<Pointer<WChar>> arg1, int arg2) → int
wcstoull(Pointer<WChar> arg0, Pointer<Pointer<WChar>> arg1, int arg2) → int
wcswidth(Pointer<WChar> arg0, int arg1) → int
wcsxfrm(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → int
wctob(int arg0) → int
wctype(Pointer<Char> arg0) → int
wcwidth(int arg0) → int
wmemchr(Pointer<WChar> arg0, int arg1, int arg2) → Pointer<Int>
wmemcmp(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → int
wmemcpy(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → Pointer<Int>
wmemmove(Pointer<WChar> arg0, Pointer<WChar> arg1, int arg2) → Pointer<Int>
wmemset(Pointer<WChar> arg0, int arg1, int arg2) → Pointer<WChar>
wprintf(Pointer<WChar> arg0) → int
wscanf(Pointer<WChar> arg0) → int

Operators

operator ==(Object other) → bool
The equality operator.
inherited