AI・エージェント OpenAI Developer Community · 2024-07-30

この結論が本当にモデルの出力だと第三者に証明するには？

How do you prove to a third party that an API response really came from the model?

30秒でわかる要約

誰がOpenAI Developer Community · 2024-07-30 · 10 返信
何を求めているかこの結論が本当にモデルの出力だと第三者に証明するには？
何を作れるかAttestation for AI output: signed request/response pairs, timestamps and verifiable receipts.

元スレッドの発言

“3rd parties we're working with have no way of knowing if we generated those responses ourselves… there are implications.”
— OpenAI Developer Community · 2024-07-30 · community.openai.com/t/any-way-to-prove-api-returns-…

背景と課題

痛みのポイント

AIの結論が金融・医療・法務のフローに入ると、「誰が生成し、改ざんされていないか」を証明できなければなりません。

プロダクトの切り口

何を作れるか

Attestation for AI output: signed request/response pairs, timestamps and verifiable receipts.

検証のしかた

スレッドの返信をすべて読み、繰り返し出てくる具体的な場面を書き出します。繰り返しこそ需要の密度です。
「compliance / audit」関連の既存ツールを調べ、どの一部分しかカバーしていないかを確認します。
一言ランディングページを作り、OpenAI Developer Community に投稿して価格を聞く人が現れるか見ます。

既存の選択肢

模型厂商日志, 第三方审计平台

同じ課題の他のスレッド

AIプラットフォームの弱点 (7)