up:: Docker
up:: GAI
up:: AIt
same:: Sillytavern
same:: stable-diffusion-webui
down:: AIl local textchatbot
テキスト生成モデルを動かすUIとして一番有力なクライアント。
本名より製作者のoobaboogaのほうでよく呼ばれる。
ワンクリで動かすなら、本体を先に入れたりしないほうがうまく動く。
先に入れたいなら本体、GPTQ、拡張機能のrequirements.txtを手動でインストールすることになる。
GPTQはsetup_cuda.pyを実行する。リポジトリまでディレクトリ移動しないとインストーラが仕事しないので注意。
Error checking compiler version for cl
アプデとかでcl.exeへのパスが消えてることで発生する。