アップルの共同創業者スティーブ・ウォズニアック氏、イーロン・マスク氏、人工知能の専門家や業界幹部らのグループは、社会と人類への潜在的なリスクを理由に、GPT-4よりも強力な人工知能システムのトレーニングを6か月間一時停止することを提唱していると、彼らは公開書簡で述べた。
ロイター通信：
この書簡は非営利団体のフューチャー・オブ・ライフ研究所が発行し、マスク氏、アップル共同創業者のスティーブ・ウォズニアック氏、スタビリティーAIのCEOであるエマド・モスタケ氏を含む1,000人以上が署名したもので、そのような設計のための共通の安全プロトコルが開発され、独立した専門家によって実施され、監査されるまで、高度なAI開発を一時停止するよう求めている。
「強力なAIシステムは、その効果がプラスであり、リスクが管理可能であると確信できる場合にのみ開発されるべきだ」と書簡は述べている。
この書簡ではまた、人間と競争するAIシステムが経済的・政治的混乱という形で社会や文明に及ぼす潜在的なリスクについても詳述し、開発者に対し、ガバナンスや規制当局について政策立案者と協力するよう求めた。
MacDailyNews の見解:この崇高な取り組みの成功を祈る。しかし、この「一時停止」の提案は人間の本性に反するものであり、これを試みるすべての取り組みと同様に、失敗するだろう。
2007 年に私たちが書いたように、「人間の本質に反するビジネス モデルは失敗する運命にあります。」
人間の本性に反する政治システムもまた、失敗する運命にある。— MacDailyNews、2019年10月19日
人間の本質に反するものは持続不可能であり、したがっていずれ失敗するでしょう。
「巨大AI実験の一時停止：公開書簡」原文：
人間に匹敵する知能を持つAIシステムは、広範な研究[1]やトップクラスのAIラボ[2]によって実証されているように、社会と人類に深刻なリスクをもたらす可能性があります。広く支持されているアシロマAI原則に述べられているように、高度なAIは地球上の生命の歴史に大きな変化をもたらす可能性があり、相応の注意とリソースを費やして計画・管理されるべきです。しかし残念ながら、このレベルの計画と管理は実現されていません。ここ数ヶ月、AIラボは、誰も――たとえその作成者でさえ――理解、予測、そして確実に制御できない、より強力なデジタルマインドを開発・展開するという、制御不能な競争に巻き込まれています。
現代のAIシステムは、一般的なタスクにおいて人間と互角に渡り合えるようになってきています[3]。私たちは自問自答しなければなりません。機械が私たちの情報チャネルをプロパガンダや虚偽で溢れさせるままにしておくべきでしょうか？やりがいのある仕事も含め、すべての仕事を自動化すべきでしょうか？最終的に人間を凌駕し、賢く、時代遅れになり、人間に取って代わる可能性のある非人間の知性を開発すべきでしょうか？文明の制御を失うリスクを冒すべきでしょうか？こうした決定は、選挙で選ばれていない技術リーダーに委ねてはなりません。強力なAIシステムは、その効果がプラスであり、リスクが管理可能であると確信できる場合にのみ開発されるべきです。この確信は十分に正当化され、システムの潜在的な効果の大きさに応じて増大する必要があります。OpenAIは、人工汎用知能に関する最近の声明で、「ある時点で、将来のシステムのトレーニングを開始する前に独立したレビューを受けることが重要になるかもしれません。また、最先端の取り組みにおいて、新しいモデルの作成に使用される計算能力の成長率を制限することに同意することが重要です」と述べています。私たちもこれに同意します。まさに今、その点が問われています。
したがって、私たちはすべてのAIラボに対し、GPT-4よりも強力なAIシステムの訓練を少なくとも6ヶ月間、直ちに一時停止するよう求めます。この一時停止は公開され、検証可能であり、すべての主要な関係者が参加する必要があります。このような一時停止が迅速に実施できない場合は、政府が介入し、モラトリアム（一時停止期間）を設けるべきです。
AI研究所と独立系専門家は、この休止期間を利用して、高度なAIの設計・開発のための共通の安全プロトコルを共同で開発・実装すべきである。これらのプロトコルは、独立した外部専門家による厳格な監査と監督を受けるべきである。これらのプロトコルは、それに準拠するシステムが合理的な疑いの余地なく安全であることを保証するものでなければならない。[4] これはAI開発全般の休止を意味するものではなく、予測不可能で新たな能力を備えたブラックボックスモデルへと向かう危険な競争から一歩後退することを意味するに過ぎない。
AI の研究開発は、今日の強力で最先端のシステムをより正確、安全、解釈可能、透明性、堅牢性、整合性、信頼性、忠実性を備えたものにすることに再び重点を置く必要があります。
同時に、AI開発者は政策立案者と協力し、堅牢なAIガバナンスシステムの開発を飛躍的に加速させる必要があります。これには少なくとも、AIに特化した新たな有能な規制当局、高性能AIシステムと大規模な計算能力プールの監視と追跡、本物と合成AIの区別を支援し、モデルの漏洩を追跡するための来歴および透かしシステム、堅牢な監査および認証エコシステム、AIに起因する損害に対する責任、AIの技術的安全性研究への強力な公的資金、そしてAIが引き起こす劇的な経済的および政治的混乱（特に民主主義への影響）に対処するための十分な資源を備えた機関が含まれるべきです。
人類はAIによって繁栄する未来を享受できます。強力なAIシステムの構築に成功した今、私たちは「AIの夏」を謳歌し、その恩恵を享受し、これらのシステムをすべての人々の明確な利益のために設計し、社会に適応する機会を与えることができます。社会は、社会に壊滅的な影響を与える可能性のある他の技術については、一旦停止しています。[5] 今こそ、AIの夏を謳歌できる時です。準備不足のままAIの秋に突入するのではなく、長く続くAIの夏を楽しみましょう。
注釈と参考文献はここにあります。
MacDailyNewsへのご支援をお願いいたします。こちらをクリックまたはタップして、私たちの独立系テクノロジーブログを応援してください。ありがとうございます！
このリンクを使用して Amazon で買い物をすると、追加費用なしで MacDailyNews をサポートできます。
Apple は、米国での F1 放映権を取得する画期的な契約を締結する寸前です。
Apple TV+ の新しいドキュメンタリーシリーズ「Knife Edge: Chasing Michelin Stars」は、ゴードン・ラムゼイと Studio Ramsay Global がエグゼクティブプロデューサーを務めます…
AppleはiOS 26でWalletアプリのメジャーアップデートを発表し、搭乗券のエクスペリエンスを強化して航空旅行を簡素化しました…
iOS 26.1 の 2 番目のベータ版では、Apple は iPhone のアラームを再設計し、以前のバージョンと比べてアラームを解除しにくくなりました…
トロフィーを追い求め、王朝を築き、チャンピオンを決める難しい決断を下す Football Manager 26 Touch が、Apple Arcade に帰ってきます…
