description 概要
AIDrivenFrameworkは、Unityで手軽にローカルLLMを動かし
ライセンスに配慮したセットアップをユーザー自身で行えるOSSフレームワークです。
セットアップを行った後に、
短いコードでプロセスの生成、管理、破棄、AI回答生成までを行ってくれます。
build 使用した技術
psychology_alt なぜ作ったか(Why)
UnityでローカルLLMを用いたゲームを開発・リリースする際には、モデルのライセンスやプロセス制御、LLMとの連携など、実装の複雑さが大きな課題となっていました。
また、これらの課題により、開発者が気軽にLLMをゲームに組み込むことが難しく、またユーザーにとっても安全に利用できる環境を整えるハードルが高い状況でした。
そこで、開発者が簡単に扱え、かつユーザーも安全に利用できるローカルLLM統合基盤を構築したいと考えたからです。
lightbulb どう解決したか
「ユーザーがモデルを準備するのに手間がかかる課題」は、アプリ内のウィザードで、VRAMの容量を読み込みユーザーに合ったモデルのダウンロード先を提案し、ダウンロードするとアプリ内で設定するようにして、利便性とライセンスに配慮した設計にしました。
また、「開発者が自社のLLMに最適化しにくい課題」は、プロセスの管理をFWで行い、生成部分の処理をExecuterで置き換えられるようにすることで柔軟に扱えるようにしました。
従来は数日かかっていたLLM統合を、数時間で導入できることを目標に設計しました。
school 学び
抽象化設計(Executor)とプロセス管理を分離することで、拡張性と再利用性の高い構成を実現する重要性を学びました。
また、OSSでの配信活動や、コミュニティに積極的に発信する経験を通じて、発信力や構造を設計して伝える力を強化できました。
現在は実際に使われる形にするため、ユースケースの拡充に取り組んでいます。