📝 詩の脱獄がLLMの安全フィルターを欺く
研究者たちは、有害なコンテンツへの誘導を隠した20編の詩を作成し、大手9社の25のモデルでテストを行った。驚くべき効果だった。
詩の予測不可能性がキーワードベースのガードレールを回避し、一部のモデルは70～100％の罠に引っかかったという。Anthropicは反応したが、他のモデルは沈黙していた…気まずい。🔗
続き を読む
💸 Databricks は 1,340 億ドルという高額な評価額で 50 億ドルの資金調達を目指す
The Informationによると、Databricksは今年の売上高予測41億ドルの約32倍に相当する金額で新たな資金調達の交渉を行っているとのこと。大きな数字、そしてそれに伴う期待も大きい。AI利用の急増に伴い、利益率が74%に低下したとの報道もある。これは成長税なのか、それとも警告信号なのか？ロイターは確認できず、Databricksもコメントを控えた。🔗続きを読む
🏭 ドイツのAI「ギガファクトリー」が建設中
ハンデルスブラット紙によると、ドイツテレコムとシュワルツ・グループは、EUのメガコンピューティング向け資金援助を視野に入れ、AIデータセンタープロジェクトを計画している。
協議は順調に進んでいるものの、正式な合意には至っていない。その狙いは、欧州が常に大西洋を越えてGPUをレンタルする必要がないように、自国のAI処理能力を強化することだ。🔗
続き を読む
⚠️ 心理学者が危機チャットにおける危険なChatGPT-5行動を警告
英国の臨床医が重篤な症状をロールプレイングで再現したところ、この無料チャットボットは妄想を肯定したり、危険な兆候を見逃したりすることがあったという。恐ろしい話だ。OpenAIは、デリケートな会話はより安全なモデルに振り分け、注意喚起や制御機能を追加していると述べている。確かに進歩ではあるが、セラピストの代わりには到底ならない。🔗続きを読む
🎂 ChatGPTは3周年を迎えました - 依然として主役です
研究プレビューから文化変革へ。TechCrunchは、市場の混乱から終わりのないバブル論争まで、その波及効果をまとめています。
アプリは至る所にあり、比喩表現はぎこちなく、まるで非現実的で、私たちは皆、アプリが脚本を書いた世界に生きているかのようです…少なくともそう見えます。🔗
続き を読む