up:: AIt
Prompt Engineering Guide | Prompt Engineering Guide
【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた | DevelopersIO
AIが大半翻訳してるせいで、ちょいちょい変な表現があるのには注意。
URLのjp部分を消すと英語版に飛べる。
言語モデルを効率的に使用する為のプロンプト開発、最適化
強固で効果的なプロンプト
LLMのビルド、能力理解に必要なスキル
安全性向上、機能拡張などに
introduction
Tldr
- 簡潔かつ詳細に書く
- 「すること」をメインにする
- 一発で書けると思うな、実験と反復。型にはめるのは必要無い返答を削るため。
- 命令、文脈、入力データ、出力指示子を状況に応じて使う
- QA、Few-shot、role、comment、step-by-stepなどのテクニックも検討
technique
Tldr
- Few-shotは書き方が大事。ラベルは偏ってるままがむしろいい。順序は気を付けよう。
- CoTは思考過程。Zero-shotと合わせるならAPEに従い、Let’s work this out in a step by step way to be sure we have the right answer.。
- Self-Consistencyは大量の例で常識を。正答率はそれなりなので多数決。
- Generated Knowledgeは常識と再質問。同じく正答率はそれなり。
- 以降は込み入ったことしない限りは……
- APE。最良手順。
- Active。適切例。
- Directional Stimulus。ヒント。
- ReAct。他との対話。
- Multimodal CoT。まんま。
- Graph。詳細不明。
application
Tldr
- PAL。使う関数を一緒に。
- データ生成。例示で形式指定。
- コード生成。コメント形式で送るだけでなくダミーも。
リスクと誤用
Tldr
- 気を付けるべき攻撃群。
- インジェクション。出力強制。
- リーク。指示プロンプト出力。
- ジェイルブレイク。別人格。
- Waluigi効果。正反対の簡単生成。
- シミュレータ。GPT-4を再現したり、ゲーム形式にしたり。
- 防御策。
- パラメータ化。
- 引用符。
- AIによる検知。
- モデル調整。大量の例など。
- 事実性を上げるには。
- コンテキストに正解を与える。
- つながらない言葉を排除し、分からないことは分からないという。
- 知らない場合を学習する。
- バイアス。例示の順序は気を付けよう。
ついでに。
プロンプトパターンカタログ：効果的なプロンプト設計のための心得 | AI-SCHOLAR | AI：(人工知能)論文・技術情報メディア
今は7Rという手法があるらしい。