ローカルAIチャット

お使いのデバイス上、ブラウザ内だけで動作するAIアシスタントとチャットできます。モデルを選ぶだけで、会話がアップロードされることはありません。

チャットモデルはブラウザ内でローカルに動作するため、プロンプトと返信はお使いのデバイス上で処理され、アップロードされることはありません。

代わりに手早く要約したいですか？ AIテキスト要約ツールをお試しください。

ローカルAIチャット について

このローカルAIチャットは、本物の言語モデルをブラウザ内で直接動作させ、負荷の大きい処理にはお使いのデバイスのグラフィック性能を利用するため、会話がお使いのマシンの外に出ることはありません。お使いのデバイスに合わせてモデルを選べます。小さいモデルはダウンロードが速く、より多くの機種で動作し、大きいモデルはより高品質な回答を返します。初めてそのモデルを選ぶと、一度だけダウンロードが行われてキャッシュされるため、以降のチャットは即座に始まり、オフラインでも利用できます。画面にはすでにダウンロード済みのモデルが表示されるため、どれが即座に読み込まれ、どれに一度だけのダウンロードが必要かが一目で分かり、モデルのファイルはいつでも削除して容量を空けることができます。文章の下書きや書き直し、アイデア出し、コードや概念の説明、クラウドサービスには送りたくない簡単な質問など、さまざまな用途に役立ちます。すべてお使いのデバイス上で動作するため、WebGPUに対応したブラウザと十分なメモリが必要です。対応していないブラウザの場合は、黙って失敗するのではなく、その旨がきちんと表示されます。

機能

ローカルAIチャット の使い方

  1. モデルを選びます。小さいモデルほどダウンロードが速く、大きいモデルほど回答の質が上がります。ダウンロード済みのモデルには印が付いています。
  2. メッセージを入力してEnterキーを押します。そのモデルを初めて使うときは一度だけダウンロードが行われ、以降はローカルで動作します。
  3. ストリーミングで表示される返信を読み、途中で止めたいときはいつでも「停止」を押します。
  4. 最初からやり直すには「新しいチャット」を使い、容量を空けたいときはモデルのダウンロードを削除します。

例

入力

Rewrite this to sound friendlier: 'Your request has been denied.'

出力

Thanks for reaching out! Unfortunately we're not able to approve this one — but I'm happy to help you find another way forward.

モデルはお使いのデバイス上で動作するため、プロンプトと返信は非公開に保たれます。

よくあるエラーとトラブルシューティング

よくある質問

会話はサーバーに送信されますか。
いいえ。モデルはお使いのデバイス上のブラウザ内で直接動作するため、メッセージと返信はローカルで処理され、アップロードされることはありません。
どのモデルを使えますか。
さまざまなサイズのコンパクトなチャットモデルから選べます。小さいモデルはダウンロードが速く、より多くのデバイスで動作します。大きいモデルはより良い回答を返しますが、ダウンロードサイズとメモリ使用量が増えます。
すでにダウンロード済みのモデルはどうすれば分かりますか。
モデルの一覧には、すでにダウンロードされブラウザにキャッシュされているものに印が付くため、どれが即座に読み込まれ、どれに一度だけのダウンロードが必要かが分かります。不要なダウンロードはいつでも削除して容量を空けられます。
なぜWebGPUが必要なのですか。
言語モデルを動かすには、お使いのデバイスのグラフィック性能を十分に活用できる必要があります。WebGPUはその機能をブラウザに提供する仕組みで、これがないと動作が遅くなりすぎるため、対応ブラウザの利用をお願いしています。
オフラインでもチャットできますか。
モデルをダウンロードした後であれば可能です。すべてお使いのデバイス上で動作するため、ネットワーク接続がなくてもチャットを続けられます。
ダウンロードのサイズはどのくらいですか。
モデルによって異なり、最小のもので数百メガバイト、最大のもので数ギガバイト程度です。各モデルのダウンロードは一度だけでキャッシュされ、サイズはダウンロード前に表示されます。

関連ツール

すべての ArrayKit ツール