流出文書で判明、生成AI「有害プロンプト防御」開発の過酷な戦い…人間が残酷な文字列を書き

Scale AIの安全プロジェクトでは、フリーランサーに「有害な」プロンプトの作成を依頼しています。入手した社内文書では、フリーランサーがどのように教育関連キーワードはありません