Categories Troubleshooting

AI「ゴッドファーザー」が警告:我々は「自分たちよりも強力なモンスターを生み出している」

AI「ゴッドファーザー」が警告:我々は「自分たちよりも強力なモンスターを生み出している」

人工知能

人工知能(AI)分野は今、世界に革命をもたらし、世界を再構築する可能性を秘めており、大きな盛り上がりを見せています。このAI革命の立役者の一人が、しばしば「人工知能のゴッドファーザー」と呼ばれるヨシュア・ベンジオ氏です。

カナダのコンピュータ科学者であるベンジオ氏は、ニューラルネットワークとディープラーニングアルゴリズムの研究にキャリアを捧げてきました。彼の画期的な研究は、OpenAIのChatGPTやAnthropicのClaudeといった高度なAIモデルの開発への道を開きました。

ベンジオ氏は、我々は「自分たちよりも強力な怪物を生み出している」と警告している。

ヤスミン・コーラム(Yahoo Finance)

「知性は力を与え、その力を操る者は――それが人間レベルかそれ以上の力であれば――非常に強力な存在となるだろう」とベンジオ氏はYahoo Financeのインタビューで述べた。「一般的にテクノロジーは、経済力、軍事力、政治力といった、より大きな力を求める人々によって利用される。だから、危険な形で権力を集中させる可能性のあるテクノロジーを開発する前に、私たちは非常に慎重にならなければならないのだ。」

2018年、ベンジオ氏と2人の同僚、元Google副社長のジェフリー・ヒントン氏(2024年ノーベル物理学賞受賞者)、そしてMetaの主任AI科学者ヤン・ルカン氏は、コンピューティング界のノーベル賞とも呼ばれるチューリング賞を受賞しました。2022年には、ベンジオ氏は世界で最も引用されているコンピューター科学者となりました。

これが悪者の手に渡れば、それが何を意味するにせよ、非常に危険な事態になりかねません。これらのツールは、近い将来テロリストの助けになる可能性があり、民主主義を破壊しようとする国家主体の助けにもなりかねません。そして、多くの科学者が指摘している問題があります。それは、私たちが現在それらを訓練している方法です。これらのシステムが自律的になり、独自の保存目標を持つようになるのをどうやって避けられるのか、私たちにははっきりと見えていません。そして、私たちはこれらのシステムの制御を失う可能性があります。つまり、私たち自身よりも強力なモンスターを生み出す道を歩んでいるのかもしれません。 – ヨシュア・ベンジオ

MacDailyNewsの
見解:

KCグリーン著『ガンショー』
KCグリーン著『ガンショー』

現在、Substack サブスクリプションで持続可能な状態を実現するための道のりは 5 分の 1 程度です。

悪くないスタートだ!

Apple好きのお友達に、Substackで配信されているMacDailyNewsについてぜひ教えてください。現在無料購読の方は、MacDailyNewsを継続するために、月額5ドルまたは年額50ドルのご購読をご検討ください。購読ボタンを押してください。ありがとうございます!

Substackで読む


MacDailyNewsを応援していただき、購読者限定の記事、コメント、チャットなどをお楽しみください(macdailynews.substack.com)にご登録ください。ありがとうございます!

このリンクを使用して Amazon で買い物をすると、追加費用なしで MacDailyNews をサポートできます

トロフィーを追い求め、王朝を築き、チャンピオンを決める難しい決断を下す Football Manager 26 Touch が、Apple Arcade に帰ってきます…

アップルは火曜日、「ブルースクリーン・オブ・デス」と題した新しい広告を公開した。これは昨年発生したWindowsコンピュータの重大なクラッシュを揶揄したもので…

ロンドン警察は、盗難iPhone4万台を中国に密輸した疑いのある犯罪組織を壊滅させた。これは同組織による過去最大のiPhone窃盗事件となった。

Appleは本日、iOS 26.1、iPadOS 26.1、macOS Tahoe 26.1、tvOS 26.1、watchOS 26.1、visionOS 26.1の2番目のベータ版を開発者向けにリリースしました…

テイラー・スウィフトは最新アルバム「ザ・ライフ・オブ・ア・ショーガール」でApple Music、Spotify、Amazonのストリーミング記録を破り、歴史を築いた。

You May Also Like

スーパーサイクル:AppleのiPhone 12の販売台数が発売から7ヶ月以内に1億台を突破

スーパーサイクル:AppleのiPhone 12の販売台数が発売から7ヶ月以内に1億台を突破 カウンターポイント・リサーチのモバイル端末市場調査「Market Pulse Service」によると、AppleのiPhone 12シリーズの世界累計販売台数は2021年4月に1億台を突破した。同シリーズは発売から7ヶ月でこの記録を達成した。これはiPhone 11シリーズよりも2ヶ月早く、4G移行の瀬

元アップルストア従業員、精神治療後の差別を理由にアップルを提訴

元アップルストア従業員、精神治療後の差別を理由にアップルを提訴 ifoAppleStoreは、「ニューヨーク市ソーホーのアップル小売店の元従業員が、同社が精神科医による『神経障害』の治療後に差別行為を行い、数ヶ月間職務を遂行できない状態に置き、精神状態を疑問視した後に昇進を拒否したとして、連邦裁判所に訴訟を起こした」と報じている。 「ニコール・サットン(22歳)は、現在居住するイリノイ州の連邦地方

アップル、EUによる144億ドルのアイルランド税収差し押さえをめぐる裁判で敗訴

アップル、EUによる144億ドルのアイルランド税収差し押さえをめぐる裁判で敗訴 アップルは、アイルランドによる130億ユーロ(144億ドル)の税金徴収をめぐるEUの裁判で敗訴した。ルクセンブルクのEU司法裁判所は、アイルランドがアップルに不当な優位性を与えたことでEUの国家援助法に違反したとする2016年の判決を支持した。この判決は確定しており、上訴はできない。 オリバー・クルックがブルームバーグ

マイクロソフトCEOのスティーブ・バルマー氏が12ヶ月以内に退任、取締役会が後継者選任プロセスを開始

マイクロソフトCEOのスティーブ・バルマー氏が12ヶ月以内に退任、取締役会が後継者選任プロセスを開始 ついにそれが起こりました。マイクロソフトの取締役会は集団昏睡状態から ようやく目覚めたのです。 Microsoft のプレスリリースをそのまま引用します。 マイクロソフトは本日、スティーブ・バルマー最高経営責任者(CEO)が、後任選定プロセス完了後、今後12ヶ月以内にCEOを退任することを決定した

AppleがFinal Cut Pro X 10.4をリリース、360度VRビデオ編集機能を導入

AppleがFinal Cut Pro X 10.4をリリース、360度VRビデオ編集機能を導入 Appleは本日、プロ仕様のビデオ編集アプリケーション、Final Cut Pro Xのメジャーアップデートを発表しました。このアップデートには、360度VRビデオ編集、高度なカラーグレーディングツール、ハイダイナミックレンジ(HDR)ビデオのサポートなどの新機能が含まれています。新型iMac Pro

アナリストはAppleのiPhone 14 Proの供給問題に明るい兆しを見出し、目標価格を200ドルに維持

アナリストはAppleのiPhone 14 Proの供給問題に明るい兆しを見出し、目標価格を200ドルに維持 アップルは日曜に発表した声明で、中国共産党による空想的な「ゼロコロナ」ロックダウンの影響で、中国の主要組み立て工場(フォックスコン)の「iPhone City」工場での生産が大幅に削減されたことを受け、iPhone 14 ProとiPhone 14 Pro Maxの出荷数が当初の予想より少