公式ドキュメント読んでもちょっと難しかったので、GitHub Repositoryのexamples
を日本語に翻訳しながら、勉強してみました。
実行にあたって、API Keyがいくつか必要となります。主にはOPENAI_API_KEY
があれば色々と動かして遊んでみることができます。
export OPENAI_API_KEY=sk-abcd1234
他にもOSSで公開されている様々なモデルをAPIとして利用することができるReplicateを活用したexampleもあります。
export REPLICATE_API_KEY
git clone [email protected]:h-k-nyosu/promptfoo-practice.git
cd examples/xxx
プロンプトの評価実行
npx promptfoo@latest eval
promptの評価結果をGUIで確認
npx promptfoo@latest view