ailiaLLMGenerate method

int ailiaLLMGenerate(
  1. Pointer<AILIALLM> llm,
  2. Pointer<UnsignedInt> done
)

~japanese @brief 生成を行います。 @param llm LLMオブジェクトポインタ @param done 生成が完了したか @return 成功した場合は \ref AILIA_LLM_STATUS_SUCCESS 、そうでなければエラーコードを返す。 @details デコードした結果はailiaLLMGetDeltaText APIで取得します。 ailiaLLMGenerateを呼び出すたびに1トークンずつデコードします。 doneは0か1を取ります。doneが1の場合、生成完了となります。

~english @brief Perform generate @param llm A LLM instance pointer @param done Generation complete? @return If this function is successful, it returns \ref AILIA_LLM_STATUS_SUCCESS , or an error code otherwise. @details The decoded result is obtained through the ailiaLLMGetDeltaText API. Each call to ailiaLLMGenerate decodes one token at a time. The value of done is 0 or 1. If done is 1, the generation is complete.

Implementation

int ailiaLLMGenerate(
  ffi.Pointer<AILIALLM> llm,
  ffi.Pointer<ffi.UnsignedInt> done,
) {
  return _ailiaLLMGenerate(
    llm,
    done,
  );
}