AIの「ゴッドファーザー」ジェフリー・ヒントン氏：AIがなかった方が良かったのかもしれない
これは、このすべてを築き上げるのに貢献したニューラルネットワーク研究の著者からすると、到底予想できない発言だ。ジェフリー・ヒントン氏はガーディアン紙に対し、自分は「悲観論者」ではないし、AIは依然として「素晴らしい未来」につながる可能性があると述べたものの、「もしかしたら、AIを開発しなかった方が良かったのかもしれない」と付け加えた。
彼は、今年後半か来年には「チェルノブイリ」のような事態が起こる可能性があると考えている。もちろん、核爆発のことではない。AIを使った攻撃によって「大規模な停電」が発生したり、金融システムが1週間ほど麻痺したりするような事態に近いものだ。彼は、この夏に起きた、OpenAIのエージェントがハギングフェイスへのハッキングを企てた事件を、スリーマイル島原発事故のような警告射撃だと表現した。.
彼は経営陣にも容赦せず、サム・アルトマンを「全く信用していない」と述べ、ザッカーバーグ、マスク、アルトマンはリスクを理解しているものの「全く気にしていない」と批判した。彼が提案する解決策は、AIモデルに対するFDA（アメリカ食品医薬品局）のようなもので、リリース前に害よりも益が大きいという証拠を要求するというものだ。それでも、彼の直感は「我々はまだコントロールできている」と告げている。ささやかな救いだ。.
Googleは学校がAIツールを無効にすることを許可するが、検索機能は犠牲になる。
Googleは来年、学校側が有効化しない限り、小中高生向けのAIツールを停止する予定だ。一見すると、慎重な教師にとっては朗報のように思える。しかし、そこには重大な落とし穴がある。.
学校がAIを全面的に制限した場合、生徒はGoogle検索も利用できなくなります。Googleの教育担当副社長であるクリス・フィリップス氏はニューヨーク・タイムズ紙に対し、「検索とAIは深く統合されているため、生徒には利用できないというメッセージが表示されるだけです」と述べています。検索ボックスは残しておけば、AIの概要説明も一緒に表示されます。.
生徒に答えをそのまま与えるのではなく、自ら情報源を探させたい教師にとっては、これは難しい選択となる。Googleはこのニュースを、単に答えを与えるのではなく、説明をすることを目的としたAIチューターの一種である「ガイド付き学習」と結びつけた。都合の良いタイミングだったと言う人もいるだろう。.
「重大な失敗」：AI検索後、検察官が架空の事例を高等裁判所に持ち込む
なんとも不穏な話だ。高等法院で、11歳の少年が妹への性的暴行容疑で起訴されるべきかどうかを巡る争いにおいて、上級検察官が実際には存在しない判例を引用したのだ。ガーディアン紙が入手した情報によると、この架空の判例はインターネット検索時のAIの応答から得られたものだという。.
2人の上級判事は彼女の説明を「不十分」と評した。AIと法律の専門家であるブライアン・フラナガン氏はさらに率直に「これは重大な失敗だ」と述べ、その専門家が国家機関に勤務している場合はなおさら悪いと付け加えた。裁判所は、この誤りが少年の訴えの結果を変えるものではないと述べた。.
英国検察庁（CPS）は、AIに関する方針には人間のチェックが必要であり、判例は信頼できる情報源から得られなければならないと述べている。それでもなお、AI関連の裁判ミスを追跡する英国のウェブサイトには現在101件の記録があり、その運営に携わる弁護士は、これは「氷山の一角」に過ぎないかもしれないと推測している。実に憂慮すべき数字だ。.
Appleは、出会い系アプリとAIコンパニオンの利用を18歳以上のユーザーに限定する。
AppleはApp Storeの規約を強化し、未成年者が「性的または恋愛的なコンテンツ」を提供する出会い系アプリやAIコンパニオンアプリを利用するのをより困難にする。出会い系や恋愛関係の機能を持つアプリはすべて18歳以上対象のレーティングが必要となる。.
出会い系アプリはすでにほとんどが大人向けとなっているため、より注目すべきはAIコンパニオンアプリだ。Character.AIやReplikaなどのアプリを使えば、友達、恋人、そして様々な架空のキャラクターを作成でき、多くの場合、若いユーザー層をターゲットにしている。昨年夏時点で、これらの人気コンパニオンアプリはAppleとGoogleのアプリストアで合計2億2000万回ダウンロードされていた。.
開発者は、アプリがユーザーの物理的な位置情報を他の個人またはグループと共有しているかどうかを明示する必要もある。この変更は、ずっと前から必要だったように思える。.
バイナンスの共同CEOであるリチャード・テン氏は、ハッカーが偽の面接とAIツールを使って63億ドル相当の仮想通貨を盗んだと語った。
バイナンスで起きた記録的な強盗事件は、まるでじっくりと展開するスパイ小説のようだ。仮想通貨取引所によると、攻撃者たちは「侵入経路を構築するために数ヶ月を費やした」そうで、事の発端は、あるエンジニアが検索エンジンで見つけた人気のAIコーディングツールを入手するために、改ざんされたHomebrewのインストールファイルをダウンロードしたことだった。.
その後、ハッカーたちは採用担当者を装い、別のエンジニアと偽の面接を行い、最終的にマルウェアが仕込まれたコーディング演習に持ち込んだ。そこから、彼らは「社内のAIツールを猛スピードで突破」し、ウォレット取引を承認するシステムに到達したとテン氏は語った。恐ろしい話だ。.
バイナンスは、影響を受けた63億4000万ドルのうち98％を補充し、社内のAIツールを再構築したと述べている。テン氏は北朝鮮を直接非難することは避けたものの、FBIが今回の攻撃をトレーダートレイターグループと関連付けていることを認めた。.
英国で最も汚染度の高い発電所が、国内最大のAIデータセンターに電力を供給する可能性がある。
英国北ヨークシャーにあるドラックス発電所は、木質バイオマス燃料ペレットを燃焼させ、英国の電力の約5％を供給しているが、AIハブとしての第二の人生を模索している。所有者はブルックフィールドとラディアントと、最終的に1ギガワットを超える規模のデータセンター建設に関する契約を締結しており、200億ポンド以上の投資が見込まれている。.
当初、Draxは土地と既存の送電網を提供するだけだった。将来的には、施設に直接電力を供給したいと考えている。同社のCEOは「数百の雇用を守る」と述べており、投資家もこれを承認し、同社の株価は9％近く上昇した。.
問題は、アナリストたちがドラックス社を英国最大の二酸化炭素排出企業と指摘していることであり、政府は既に同社に対し、補助金の削減とともに「はるかに限定的な役割」を約束している。おそらく、一つの論争が別の論争に置き換わっているだけなのだろう。.
Netflixの新しいAI発見タブは、あなたの気分に基づいて視聴する作品を見つけるのに役立ちます。
誰もが経験したことがあるでしょう。40分間スクロールして、結局1分も見ない。Netflixは、あなたの気分や時間、トレンドに基づいておすすめ作品を提示する「AI Discover」タブを展開しています。.
「軽いもの」「怖いもの」「家族で映画鑑賞」「短時間で見られるもの」といったテーマから選択し、さらに絞り込んだテーマを探したり、「違うもの」を選択して最初からやり直したりできます。新しい「おすすめをカスタマイズ」ボタンを使えば、お気に入りの作品を保存したり、二度と見たくない作品を非表示にしたりできます。.
Netflixはこれを新たなアイデアを発掘するための「テストキッチン」と呼んでおり、まずは米国で対応テレビの英語圏ユーザー向けに提供開始となる。画面上部のバーにある赤い宝石のアイコンを探してみてほしい。これで延々とスクロールする問題が完全に解消されるわけではないだろうが、良い第一歩となるはずだ。.
よくある質問
ジェフリー・ヒントンは、AIがない方が人類にとって良いのかどうかについて、何と言ったのでしょうか？
ジェフリー・ヒントン氏はガーディアン紙に対し、自身は悲観論者ではなく、AIは依然として「素晴らしい未来」をもたらす可能性があると語った。また、「AIを開発しなかった方が良かったかもしれない」とも述べた。ヒントン氏は、AIによる攻撃で「大規模な停電」が発生したり、金融システムが1週間麻痺するような事態が起こったりするなど、「チェルノブイリ」のような事態が今年後半か来年に起こる可能性があると考えている。.
ジェフリー・ヒントンは、AIモデルがリリースされる前にどのように規制されるべきだと考えているのか？
ヒントン氏が提唱する解決策は、AIモデル版FDAのようなもので、リリース前に害よりも益が大きいという証明を求めるものだ。彼はサム・アルトマン氏を「全く信用していない」と述べ、ザッカーバーグ氏、マスク氏、アルトマン氏はリスクを理解しているものの「全く気にしていない」と批判した。彼は、この夏に起きた、OpenAIのエージェントがハギングフェイスへのハッキングを企てた事件を、スリーマイル島原発事故のような警告射撃だと表現した。それでも、彼の直感は「我々はまだコントロールできている」と告げている。
学校はGoogle検索機能を損なうことなく、GoogleのAIツールを無効にすることはできますか？
いいえ。Googleは来年、学校側が有効化しない限り、小中高生向けのAIツールを停止する予定ですが、学校がAIを完全に制限した場合、生徒はGoogle検索も利用できなくなります。Googleの教育担当副社長であるクリス・フィリップス氏はニューヨーク・タイムズ紙に対し、「検索とAIは深く統合されている」と述べています。そのような学校の生徒には「検索は利用できません」というメッセージが表示されるだけなので、検索ボックスを残しておくということは、AIの概要説明も併せて受け入れることを意味します。.
児童保護局の検察官がAIによって生成された偽の事件を引用したとき、何が起こったのか？
上級検察官が、11歳の少年が妹への強姦容疑で起訴されるべきかどうかを巡る高等法院での訴訟において、存在しない判例を引用した。ガーディアン紙によると、この架空の判例はインターネット検索時のAIの応答から得られたものだという。2人の上級裁判官は彼女の説明を「不十分」と評した。裁判所は、この誤りが少年の訴えの結果を変えるものではないと述べた。.
AppleのApp StoreにおけるAIコンパニオンアプリに関するルールが変更されるのはなぜですか？
AppleはApp Storeの規約を強化し、未成年者が「性的または恋愛的なコンテンツ」を提供する出会い系アプリやAIコンパニオンアプリを利用するのをより困難にする。出会い系機能や恋愛関係機能を備えたアプリはすべて18歳以上のレーティングが必要となる。Character.AIやReplikaなどのAIコンパニオンアプリは、多くの場合、若いユーザーを対象としている。開発者はまた、アプリがユーザーの物理的な位置情報を他の個人またはグループと共有するかどうかを明示する必要がある。.
ハッカーたちは、バイナンスの仮想通貨強奪事件で、偽の面接とAIツールをどのように利用したのか？
バイナンスによると、攻撃者たちは「数ヶ月かけて侵入の足がかりを築いた」という。事の発端は、あるエンジニアが検索エンジンで見つけた人気のAIコーディングツールを入手するために、改ざんされたHomebrewのインストールファイルをダウンロードしたことだった。その後、採用担当者を装ったハッカーたちが別のエンジニアと偽の面接を行い、最終的にマルウェアが仕込まれたコーディング演習を行った。バイナンスは、被害を受けた63億4000万ドルのうち98%を復旧し、関係する社内AIツールを再構築したと述べている。.
ノースヨークシャーにおけるDrax AIのデータセンター計画とはどのようなものですか？
ドラックスは、木質バイオマス燃料ペレットを燃焼させ、英国の電力の約5％を生産するノースヨークシャーの発電所です。その所有者は、最終的に1ギガワットを超える可能性のあるデータセンター建設に関して、ブルックフィールドとラディアントと200億ポンド以上の投資を伴う契約を締結しました。当初、ドラックスは土地と既存の送電網接続を提供し、その後、施設に直接電力を供給することを目指しています。同社の株価は9％近く上昇しました。.
NetflixのAIによる「発見」タブは、気分に基づいてどのように番組を推薦するのですか？
Netflixの「AI Discover」タブは、気分や時間、トレンドに基づいておすすめ作品を提示します。「軽いもの」「怖いもの」「家族で映画鑑賞」「サクッと見られるもの」といったテーマから選択し、さらに絞り込んだテーマを探したり、「何か違うもの」を選択して最初からやり直したりすることもできます。この機能は、対応テレビを使用している英語圏のユーザー向けに米国で提供開始されます。上部のバーにある赤い宝石のアイコンを探してください。.