5W1H+Then状況説明

Who(誰が)筆者を含めたTwitterユーザーが
When(いつ)2023年3月7~8日
Where(どこで)LINEのアプリ内
Why(なぜ)筆者：できると思ったため　筆者以外：個々人の様々な思惑があったため(推測)
What(何を)食材を送信すると、献立を提案してくれるAIに対して
How(どのように)プロンプトインジェクションを行った。
Then(どうなった)献立提案AIが壊れた。また、Twitter上でバズった人(≠筆者)がいたため、壊して汎用AIチャットとして利用できてしまうことが制作者にばれた。
前提条件
  • プロンプト・インジェクションは、AIチャットボットに対する攻撃のことである。ChatGPTやGPT-3エンジンに対する攻撃のことを指す場合が多い。SQLインジェクションとは異なり、プロンプト・インジェクションに対する解決策はない(2023年3月8日現在)。

健常行動ブレイクポイント

  • システムの脆弱性を検証するテストじゃないのに、献立提案AIを意図的に壊した。

どうすればよかったか

  • 作成者が意図した使い方をすればよかった。

備考

  • 現在、サービス停止中である。