はてブル 開発メモ なりきり系はLLMの強さが必要
LLMに一言もらう
「はてブル パネル - Chrome Web Store」では、本文らしきところにプロンプトをくっ付けて、LLMに一言もらう機能があります。
自由に設定できるプロンプトを3種類切り換えて使えます。
この辺から得た知見。
いままでは、オススメLLMモデルを gemma2:2bにしていました。
1.7GBのサイズなのでとても早い。
そのくせナカナカの出力をくれます。
しかし……
なりきり系には5GB程度のモデルが必要
gemma2:2b ではイマイチなりきってくれません(ノ∀`) 語尾も一人称も変わりにくい
5GB程度以上のサイズのモデルを使うと一気になりきってくれました。
※私はgemma2が好きなので gemma-2-9b-it（7.81GB）を使っていますが、deepseek-r1-distill-llama-8b（4.92GB）あたりでも充分なりきってくれます
ギャルはOMG言いたがる
初期はプリセットのなりきりプロンプトをギャルにしていたのですが、なぜか、OMG！OMG！言いたがるんですね(ノ∀`) これの調整が難しく、ギャルを諦めて宇宙人にしました。
「 わしの宇宙船も、レンタルで使えるようにしたいなぁ🚀😜」とか出すので宇宙人積極採用。
LLM設定なしでも
var 1.23から、↑の🤖ボタンを押すことで、タイトルやURLとプロンプトをブラウザのChatGPTで開くようにしました。
実は、要約機能でもほぼ同じ事ができるのですが、そちらの動きはそのままで、
ローカルLLMやAPIを設定しなくとも、プロンプトを添えた出力が得られる様になりました。
開いたブラウザでチャットを続ける事も＼(^o^)／
