--- title: "第1回AI生成コンテンツの安全性研究会を開催しました" id: "3922" type: "post" slug: "609041751" published_at: "2026-09-04T09:52:29+00:00" modified_at: "2026-09-04T09:52:32+00:00" url: "https://dexmetamask.com/609041751-antiscam-antifraud-id3922" markdown_url: "https://dexmetamask.com/609041751-antiscam-antifraud-id3922.md" excerpt: "日時: 2026年6月18日 主催: 一般社団法人AIガバナンス協会（AIGA）・一般社団法人トラス続きを読む" taxonomy_category: - "About Us" taxonomy_post_tag: - "About Us" --- # 第1回AI生成コンテンツの安全性研究会を開催しました [About Us](https://dexmetamask.com/about-us) ![1 2](https://dexmetamask.com/wp-content/uploads/2026/08/1-2-500x425.jpg "第1回AI生成コンテンツの安全性研究会を開催しました 1") ![1 1](https://www.trustsafety.or.jp/wp-content/uploads/2026/08/1-1.png "第1回AI生成コンテンツの安全性研究会を開催しました 6") 日時: 2026年6月18日 **⚠️ 【重要】もしあなたがこの記事の此れらの騙局に直面しているなら** あなたが「一刻も早くこの詐欺師グループの身元を特定し、奪われた投資資金を自分の元へ取り戻したい！」と切に願うのであれば、まずは相手との**重要な支払い・送金の証拠（仮想通貨の送金履歴や銀行振込明細）や、LINE・SNSでの対話データ（メッセージ履歴）**を1つも消さずに、すべてスクリーンショットなどで確実に保存してください！ そして、必ず一刻も早く私に連絡してください。 私は、自分自身の親身な経験をもとに、あなたが今目の前にある危機にどのように一歩ずつ立ち向かい、直面している問題をどう処理すべきか、そこで「どのようにして1日でも早く騙し取られた資金損失を挽回するか」を、具体的かつ明確にナビゲートいたします！[📌 LINE： クリックして追加 ⭐](https://dexmetamask.com/line) 主催: 一般社団法人AIガバナンス協会（AIGA）・一般社団法人トラスト&セーフティ協会（JTSA）目次 - [研究会趣旨](https://www.trustsafety.or.jp/blog/2026/08/ai-governance_1.html#toc1) - [出席者・運営（敬称略）](https://www.trustsafety.or.jp/blog/2026/08/ai-governance_1.html#toc2) - [アジェンダ](https://www.trustsafety.or.jp/blog/2026/08/ai-governance_1.html#toc3) - [イベント概要](https://www.trustsafety.or.jp/blog/2026/08/ai-governance_1.html#toc4) - [今後の活動予定](https://www.trustsafety.or.jp/blog/2026/08/ai-governance_1.html#toc5) ## 研究会趣旨 「AI生成コンテンツの安全性研究会」（以下、「本研究会」）は、AIの利活用の広がりの中で誤情報・偽情報の拡散、権利侵害、有害・不適切なコンテンツの生成や流通、真正性の確認の難しさなど、社会的な信頼と安全に関わる新たな課題が生じていることを踏まえ、マルチステークホルダーでそうした課題への対応策の議論・研究を行う場として、一般社団法人AIガバナンス協会（AIGA）・一般社団法人トラスト&セーフティ協会（JTSA）の共同イニシアチブとして設立したものです。 AI生成コンテンツの問題は、AIの開発・利用だけでなく、SNSや広告、メッセージサービスを通じた流通・拡散にも関わります。そこで本研究会では、AIガバナンスの観点を持つAIGAと、オンラインサービスの安全・安心に取り組む実務家コミュニティであるJTSAが連携し、生成から流通、被害防止までを一体的に検討します。 2026年6月18日、研究会委員と両協会の会員、その他のステークホルダーの参加のもと、第1回研究会を実施いたしました。 （関連リンク）[本研究会設立に関するリリース](https://www.ai-governance.jp/blog/2026-6-incorporation) ![2](https://www.trustsafety.or.jp/wp-content/uploads/2026/08/2-1024x576.png "第1回AI生成コンテンツの安全性研究会を開催しました 7") ## 出席者・運営（敬称略） - 座長： - 成原 慧 九州大学 法学研究院・法学部 准教授 - 委員： - 上田正基 神奈川大学 法学部 法律学科 教授 - 笹原和俊 東京科学大学 環境・社会理工学院 イノベーション科学系 教授 - 野口祐子 弁護士、東京大学 法・政治デザインセンター客員教授 - 水谷瑛嗣郎 慶應義塾大学 メディア・コミュニケーション研究所 准教授 - 一般社団法人AIガバナンス協会： - 業務執行理事兼事務局長 佐久間弘明 - 事務局リサーチフェロー 野中瑛里子 - 事務局次長 森開汰 - 事務局インターン 井上実咲 - 一般社団法人トラスト&セーフティ協会： - 代表理事 金谷武明 - 理事・事務局長 田中清隆 - 事務局 高野雄典 - 事務局 園川慶 ![3](https://www.trustsafety.or.jp/wp-content/uploads/2026/08/3-1024x576.png "第1回AI生成コンテンツの安全性研究会を開催しました 8") ## アジェンダ 1. 開会挨拶、趣旨説明（AIGA佐久間） 2. 座長、委員挨拶（成原座長） 3. AI生成コンテンツならびにDeepfakeにまつわる状況 1. AI生成コンテンツの現状とリスクの概要（AIGA野中） 2. AI生成に関する詐欺に対する対策の論点（JTSA田中） 4. 委員によるディスカッション（各委員） 5. 参加者を交えたフリーディスカッション 6. 閉会挨拶（JTSA金谷、成原座長） ## イベント概要 AIGAからは、ディープフェイクを含むAI生成コンテンツの現状やリスク、バリューチェーン全体での対策の必要性が示されました。JTSAからは、オンライン詐欺の実務を踏まえ、生成AIによる詐欺の高度化・大量化と、広告・SNS・メッセージング・決済をまたぐ業界連携の重要性が紹介されました。その後、検知技術の限界や責任分担などについて議論が行われました。 （議論内容一部抜粋） - ディープフェイクの問題は、知的財産権・人格権・民主主義・情報空間の信頼性など複数の法分野と価値に横断的に関わるものである - 議論で登場したトピックを踏まえると、①AI生成コンテンツがどのようなステークホルダーの権利・利益に関わるか（例: 性的被害、詐欺、政治的操作等）という社会的影響に準拠した軸と、②バリューチェーン上のどの関係者（例: AI開発者、AI利用者、プラットフォーム運営者等）がどのように問題と関わるかという技術スタックに準拠した軸の双方があり、それらの掛け算で問題をマッピングしていくことも一案ではないか - コンテンツの自動検知は確率論的な性質を帯びており、判別精度の可視化と閾値設計のあり方が重要な実装課題として指摘しうる - AI生成であることと、有害・違法であることは同じではなく、利用目的や文脈を踏まえた判断が必要である - 検知技術だけに頼らず、被害者保護やモデレーション、人による判断を含めた実務的な対策が必要である - AIそのものには意図が存在せず、コンテンツの「作成者」「流通者」「再拡散者」でそれぞれ問題の性質が異なること、さらに無意図的な誤情報（misinformation）と意図的な偽情報（disinformation）の区別といったアプローチが、規制設計上の重要論点である - オンライン詐欺は複数のサービスを横断して行われるため、プラットフォーム、通信、金融・決済などの業界連携が重要である - EU AI法のようなリスクベースアプローチは基本権への影響評価と組み合わせることで有効に機能しうる一方、分野によって適不適がある - オープンソースAIを介した悪用については、大手プラットフォームを前提とした既存の議論の枠組みを見直す必要がある - 「AI出力の責任は人間が担う」という原則の実務的な実装方法、および誠実に対応する事業者が不利益を被らないインセンティブ設計の必要性がある - AI自体を処罰するという発想は現行の（人間中心の）刑罰観念からは無理があるものの、開発者個人に過剰に責任を追及すると萎縮効果で技術開発が止まってしまう。故意のものでなければ「AIのせい」として誰にも個人的責任を帰さない形で社会全体として受容する、という選択肢も検討に値するのではないか - 故意かどうかの判断、すなわち「偽情報」と「誤情報」の区別が重要になる。ただ、ユーザー側の意図が確実に生成コンテンツに反映されるとは限らず、人間の意図に着目するというアプローチが万能というわけではない ## 今後の活動予定 **⚠️ 【重要】もしあなたがこの記事の此れらの騙局に直面しているなら** あなたが「一刻も早くこの詐欺師グループの身元を特定し、奪われた投資資金を自分の元へ取り戻したい！」と切に願うのであれば、まずは相手との**重要な支払い・送金の証拠（仮想通貨の送金履歴や銀行振込明細）や、LINE・SNSでの対話データ（メッセージ履歴）**を1つも消さずに、すべてスクリーンショットなどで確実に保存してください！ そして、必ず一刻も早く私に連絡してください。 私は、自分自身の親身な経験をもとに、あなたが今目の前にある危機にどのように一歩ずつ立ち向かい、直面している問題をどう処理すべきか、そこで「どのようにして1日でも早く騙し取られた資金損失を挽回するか」を、具体的かつ明確にナビゲートいたします！[📌 LINE： クリックして追加 ⭐](https://dexmetamask.com/line) 以降は、第一回で得られた論点を改めて整理した上で、研究会を継続開催しながら取りまとめを実施していくことを予定しております。 #### 著者プロフィール ![DEX MetaMask 編集部](https://dexmetamask.com/wp-content/uploads/2026/08/10-2-150x150.jpg "第1回AI生成コンテンツの安全性研究会を開催しました 9") DEX MetaMask 編集部https://dexmetamask.com DEX MetaMask 編集部は、日本の暗号資産・Web3利用者に向けて、DEX（分散型取引所）、MetaMaskなどの暗号資産ウォレット、フィッシングサイト、偽DEX、投資詐欺、暗号資産詐欺に関する情報を調査・整理する編集チームです。 主に、DEX詐欺の手口、MetaMaskを狙ったフィッシング、偽トークン、悪意のあるウォレット接続や署名要求、Approve（トークン承認）を悪用した被害、出金トラブル、SNSや投資グループを経由した暗号資産詐欺などをテーマに、公開情報や関連資料を確認しながら、安全対策や注意点を分かりやすく解説しています。 記事制作では、特定のサービスや企業について断定的な評価を行うことを目的とせず、確認可能な情報、一般的なセキュリティ知識、詐欺防止の観点を重視しています。読者自身が情報を確認し、安全性を判断するための参考情報を提供することを編集方針としています。 担当分野：DEX、MetaMask、暗号資産ウォレット、Web3セキュリティ、フィッシング対策、偽DEX対策、暗号資産詐欺対策、投資家向けセキュリティ教育。 - [https://dexmetamask.com](https://dexmetamask.com) - [https://www.facebook.com/jaafa.dexmetamask/](https://www.facebook.com/jaafa.dexmetamask/) ##### 最新の投稿 - [https://dexmetamask.com/japan-anti-scam-alliance%ef%bc%88jasa%ef%bc%89-antiscam-antifraud-id3938](https://dexmetamask.com/japan-anti-scam-alliance%ef%bc%88jasa%ef%bc%89-antiscam-antifraud-id3938) [About Us](https://dexmetamask.com/about-us) 04/09/2026[JAPAN ANTI-SCAM ALLIANCE（JASA）](https://dexmetamask.com/japan-anti-scam-alliance%ef%bc%88jasa%ef%bc%89-antiscam-antifraud-id3938) - [https://dexmetamask.com/609041800-antiscam-antifraud-id3935](https://dexmetamask.com/609041800-antiscam-antifraud-id3935) [About Us](https://dexmetamask.com/about-us) 04/09/2026[「日本オンライン詐欺対策アライアンス(JASA)」本日設立。Google、トレンドマイクロ、Meta、OpenAI Japan、TikTok Japan、マッチ・グループ等の主要企業や業界団体が結集](https://dexmetamask.com/609041800-antiscam-antifraud-id3935) - [https://dexmetamask.com/609041759-antiscam-antifraud-id3932](https://dexmetamask.com/609041759-antiscam-antifraud-id3932) [About Us](https://dexmetamask.com/about-us) 04/09/2026[業界の壁を越えた“ワンチーム”で活動する「日本オンライン詐欺対策アライアンス」（JASA）設立](https://dexmetamask.com/609041759-antiscam-antifraud-id3932) - [https://dexmetamask.com/609041757-antiscam-antifraud-id3930](https://dexmetamask.com/609041757-antiscam-antifraud-id3930) [About Us](https://dexmetamask.com/about-us) 04/09/2026[詐欺対策カンファレンス2026 開催のご案内](https://dexmetamask.com/609041757-antiscam-antifraud-id3930) [マークダウン版を閲覧する](https://dexmetamask.com/609041751-antiscam-antifraud-id3922.md) [📌 LINE： クリックして追加 ⭐](https://dexmetamask.com/line) 2026-09-04 著者：[DEX MetaMask 編集部](https://dexmetamask.com/author/b2bgoods) の上：04/09/2026 タグ:[About Us](https://dexmetamask.com/tag/about-us) と：[0 Comments](https://dexmetamask.com/609041751-antiscam-antifraud-id3922#respond) [https://dexmetamask.com/609041749-antiscam-antifraud-id3920](https://dexmetamask.com/609041749-antiscam-antifraud-id3920) [https://dexmetamask.com/609041749-antiscam-antifraud-id3920](https://dexmetamask.com/609041749-antiscam-antifraud-id3920) Previous Post:[【日本オンライン詐欺対策アライアンス（JASA）】新たにTikTok Japanが支援パートナー企業（オブザーバー）として参加、業界横断のオンライン詐欺対策に協力](https://dexmetamask.com/609041749-antiscam-antifraud-id3920) [https://dexmetamask.com/jtsa-commences-preparations-to-establish-japan-anti-scam-alliance-jasa-to-strengthen-anti-scam-measures-in-japan-antiscam-antifraud-id3924](https://dexmetamask.com/jtsa-commences-preparations-to-establish-japan-anti-scam-alliance-jasa-to-strengthen-anti-scam-measures-in-japan-antiscam-antifraud-id3924) [https://dexmetamask.com/jtsa-commences-preparations-to-establish-japan-anti-scam-alliance-jasa-to-strengthen-anti-scam-measures-in-japan-antiscam-antifraud-id3924](https://dexmetamask.com/jtsa-commences-preparations-to-establish-japan-anti-scam-alliance-jasa-to-strengthen-anti-scam-measures-in-japan-antiscam-antifraud-id3924) Next Post:[JTSA Commences Preparations to Establish “Japan Anti-Scam Alliance (JASA)” to Strengthen Anti-Scam Measures in Japan](https://dexmetamask.com/jtsa-commences-preparations-to-establish-japan-anti-scam-alliance-jasa-to-strengthen-anti-scam-measures-in-japan-antiscam-antifraud-id3924) ### Dex|MetaMaskの詐欺被害について、今すぐ情報共有するか、info@dexmetamask.comまでメールでご連絡ください。 [メッセージの変更またはキャンセル](/609041751-antiscam-antifraud-id3922#respond) こちらの問い合わせフォームにご記入ください。必須項目には印が付いています。ご質問等ございましたら、ウェブサイト管理者（info@dexmetamask.com）までお問い合わせください。 ダックビルバルブに関する最新情報については、ニュースレターにご登録ください。ご質問がございましたら、info@dexmetamask.comまでお問い合わせください。