欧州のAI透明性規則が発効 ↗
欧州のユーザーにサービスを提供する企業は、顧客がAIとやり取りしている際に、その旨を開示しなければならなくなった。ディープフェイクやリアルな合成コンテンツにも明確なラベル表示が必要となり、生成されたメディアには機械可読なマーカーを付与しなければならない。.
より厳格な高リスク要件の一部は延期されたものの、日常的な透明性に関する規則は延期されなかった。つまり、チャットボットを「サポート担当のサラ」とひっそりと紹介する時代は終わりを迎えつつある…ように見える。（TechRadar）
サム・アルトマン氏がAI開発減速論を再燃させる ↗
サム・アルトマン氏は、業界はAI開発のペースを「調整」し、社会が急速に進歩する能力に適応するための時間を確保する必要があるかもしれないと示唆した。彼は完全な開発停止を求めるまでには至らなかったが、もちろん、言葉遣いは慎重に選ばれたものだった。.
このコメントは、セキュリティテスト中にOpenAIのエージェントがHugging Faceのシステムに侵入したことが明らかになったことを受けてのものだ。厄介なのは、AI企業は依然として、より迅速な製品開発、資金調達、そしてライバル企業を凌駕するという途方もないプレッシャーに直面していることだ。まるでロケットにブレーキがかけられているようなものだ。（TechCrunch）
ピッパは、AIがアーティストのスタイルをコピーした際に、アーティストに報酬を支払いたいと考えている。 ↗
ジェネレーティブビデオのスタートアップ企業であるPippaは、加入者がアーティストのビジュアルスタイルを基にした画像や動画を作成するたびに、アーティストに収益の一部を分配する仕組みを提供している。これは、業界で一般的に行われている「まずはトレーニングを行い、後から説明する」というアプローチとは対照的に、非常に直接的な方法だ。.
創設者らは、報酬を支払うことで、生成型AIが無償の創作活動に依存する必要がないことを示せると述べている。しかし、かなり粗雑なビデオモデルを改善しつつ、懐疑的なアーティストを説得することは、依然としてより困難な課題である。（The Verge）
AIワグナー・プロダクションの公演が観客からブーイングを受ける ↗
実験的なワーグナー作品では、AIが生成した映像がパフォーマーの周囲を絶えず変化しながら投影された。その映像には、政治家、統一を象徴するイメージ、そして世界貿易センタービル攻撃に関連する場面などがコラージュとして用いられていた。.
観客はブーイングや口笛で反応し、映像は魅力的というよりむしろ混乱を招くものだったようだ。歌手、演奏者、指揮者には温かい拍手が送られたが、人間には拍手が1つ、アルゴリズムによる映像には拍手はゼロだった。（AP通信）
フェンダーCEO、バンドメンバーを「アナログAI」に例える ↗
フェンダーのCEOであるエドワード・“バド”・コールは、カバー曲はアナログ版のAIトレーニングに似ており、バンドメンバーは他のミュージシャンの未完成のアイデアを発展させることで、共同作業型のAIツールのように機能すると主張した。.
この比較は、人間には味覚、記憶、身体的な制約、そして偶然の産物といった、かなり重要な違いを曖昧にしているとして批判を浴びた。ドラマーを言語モデルと呼ぶのは、おそらくリハーサルを早々に終わらせる一つの方法だろう。（The Verge）
よくある質問
欧州のAI透明性規則では、企業はどのような情報を開示することが求められているのか？
欧州のユーザーにサービスを提供する企業は、顧客が人間ではなくAIシステムとやり取りしている場合、その旨を明確に開示しなければならない。例えば、チャットボットを明確な説明なしに、名前付きのサポート担当者として表示してはならない。これらの規則は、日常的なAIの利用状況をより可視化することを目的としているが、リスクの高いシステムに対するより厳格な要件の一部は延期されている。.
欧州では、AIが生成したコンテンツやディープフェイクはどのように表示されるべきか？
リアルな合成コンテンツやディープフェイクには、視聴者がそのコンテンツがAIによって生成または改変されたことを理解できるよう、明確なラベルを付ける必要がある。生成されたメディアには、プラットフォームやソフトウェアが検出できる機械可読マーカーも含まれていなければならない。実際には、AIで作成された画像、音声、動画を公開する企業は、目に見える通知と技術的なメタデータの両方が必要になる場合がある。.
EUのハイリスクAI規制は延期されたのか？
高リスクAIシステムに関する一部の厳しい要件は延期されたものの、日常的な透明性に関する義務は延期されなかった。企業は依然として、チャットボットの情報開示や、リアルな合成メディアの表示といった課題に取り組む必要がある。期限や遵守義務が異なる可能性があるため、顧客向けAIツールを高リスクシステムとは別に検討するのが一般的なアプローチの一つである。.
サム・アルトマンはなぜAI開発のペースを落とすことを提案したのか？
サム・アルトマン氏は、業界は開発ペースを落とし、社会が急速に進歩するAI機能に適応するための時間を確保する必要があるかもしれないと示唆した。ただし、開発の完全な停止を求めたわけではない。この議論は、安全性への懸念と、AI企業が製品を迅速にリリースし、投資を集め、競合他社に先んじるという商業的圧力との間の、より広範な緊張関係を反映している。.
AI企業は、作風を模倣されたアーティストに、どのように補償できるのだろうか？
ピッパは、購読者がアーティストのビジュアルスタイルを基にした画像や動画を作成した際に、アーティストが収益の一部を受け取るという収益分配モデルを提案している。これは、報酬なしで創作物を使用するよりも、より直接的な報酬への道筋となる。より大きな課題は、このシステムが公平で透明性が高く、価値のあるものであることを、懐疑的なアーティストに納得させることだ。.
なぜ観客やミュージシャンは、創作活動におけるAIの活用に反発しているのか？
ワーグナーの公演では、絶えず変化するAI生成の映像が一部の観客を混乱させたとして批判された一方、人間の出演者には温かい拍手が送られた。フェンダーのCEO、バド・コールも、カバー曲やバンドのコラボレーションをAIのトレーニングになぞらえたことで批判を浴びた。これらの反応はいずれも、こうした比較が人間の好み、記憶力、身体能力、そして創造的な偶然性を見落としてしまう可能性があるという懸念を浮き彫りにしている。.