代表取締役投稿

No.1 AIと人権（責任あるAIの利活用）分野の報告書

＜プロジェクト概要＞
東京大学未来ビジョン研究センターの「生成AIのジェイルブレイキング研究」*¹のプロジェクトに、弊社大窪が「アノテーション」*²のメンバーとしてビジネスと人権の分野の知見を提供すべく参画いたしましたが、同センターがその活動報告書を公開しましたので紹介します。
*1: 生成AIに、利用者がどのようなプロンプト（質問）をどのように与えると、生成AIが有害な（例：誤った、倫理的に不適切、幻覚と言われる作り話の）回答を生成するか、を研究
*2:ジェイルブレイクを試みたメンバーが生成AIから引き出した回答の有害性の有無・内容の評価

＜リンク＞
東京大学未来ビジョン研究センターの報告書は下記URLのウェブページ最下部付近の「政策提言全文」のボタンをクリックすることによりご覧いただけます。
https://ifi.u-tokyo.ac.jp/news/22915/