nobodywho-ooo/nobodywho

NobodyWhoは、llama.cppを基盤としてGGUF形式の大規模言語モデルを端末上でオフライン推論するRust製の推論エンジンです。ストリーミングチャット、会話コンテキスト管理、文法ベースのツール呼び出し、埋め込み・再ランキング、画像・音声入力、音声合成およびモデルダウンロードを提供し、Kotlin、Swift、Python、Flutter、React Native、Godotから利用できます。