高度な人工知能について警告する権利
：
私たちは最先端の AI 企業の現従業員と元従業員であり、AI テクノロジーが人類に前例のない利益をもたらす可能性を信じています。
私たちは、これらの技術がもたらす深刻なリスクも理解しています。これらのリスクは、既存の不平等のさらなる固定化から、情報操作や誤情報、そして自律型AIシステムの制御喪失による人類絶滅の可能性まで、多岐にわたります。AI企業自身もこれらのリスクを認識しており、世界各国の政府、そして他のAI専門家も同様です。
科学界、政策立案者、そして一般市民からの十分な指導があれば、これらのリスクは十分に軽減されることを期待しています。しかしながら、AI企業には効果的な監督を回避する強い経済的インセンティブがあり、特注のコーポレートガバナンス構造だけではこの状況を変えるのに十分ではないと考えています。
AI企業は、自社システムの能力と限界、保護対策の適切性、そして様々な危害のリスクレベルに関する膨大な非公開情報を保有しています。しかしながら、現状では、これらの情報の一部を政府と共有する義務は限定的であり、市民社会と共有する義務は全くありません。すべての企業が自発的に情報を共有するとは考えられません。
これらの企業に対する政府の実効的な監督がない限り、現従業員と元従業員は、企業に国民への責任を問うことができる数少ない存在です。しかし、広範な秘密保持契約により、これらの問題への対応を怠っている可能性のある企業以外には、懸念を表明することができません。通常の内部告発者保護は、違法行為に焦点を当てているため不十分であり、私たちが懸念するリスクの多くはまだ規制されていません。業界全体で同様の事例が数多く発生していることを考えると、様々な形の報復を恐れる人もいます。これらの問題に直面したり、声を上げたりするのは、私たちが初めてではありません。
したがって、私たちは先進的な AI 企業に以下の原則を遵守するよう求めます。
1.当社は、リスク関連の懸念を理由に当社を「中傷」または批判することを禁止するいかなる契約も締結または執行せず、また、リスク関連の批判に対して既得の経済的利益を妨げることで報復することもありません。
2.当社は、現従業員および元従業員がリスク関連の懸念を当社の取締役会、規制当局、および関連する専門知識を有する適切な独立組織に提起するための検証可能な匿名のプロセスを促進する。
3.当社は、企業秘密およびその他の知的財産権が適切に保護されている限り、オープンな批判の文化を支持し、現従業員および元従業員が当社の技術に関するリスク関連の懸念を一般の人々、当社の取締役会、規制当局、または関連する専門知識を持つ適切な独立組織に提起できるようにします。
4.他のプロセスが機能しなかった後にリスク関連の機密情報を公表した現従業員および元従業員に対し、当社は報復措置を取らない。リスク関連の懸念を報告する際には、機密情報を不必要に公開することを避けるべきである。したがって、取締役会、規制当局、および関連する専門知識を有する適切な独立機関に匿名で懸念を表明するための適切なプロセスが存在する限り、当社は、懸念は当初そのようなプロセスを通じて表明されるべきであることを認める。しかし、そのようなプロセスが存在しない限り、現従業員および元従業員は懸念を公に報告する自由を保持するべきである。
署名者（アルファベット順）:
Jacob Hilton、元 OpenAI
Daniel Kokotajlo、元 OpenAI
Ramana Kumar、元 Google DeepMind
Neel Nanda、現在 Google DeepMind、元 Anthropic
William Saunders、元 OpenAI
Carroll Wainwright、元 OpenAI
Daniel Ziegler、元 OpenAI
Anonymous、現在 OpenAI
Anonymous、
現在 OpenAI
Anonymous、現在 OpenAI
Anonymous、元 OpenAI
Anonymous、元 OpenAI推薦者（アルファベット順）:
ヨシュア・ベンジオ、
ジェフリー・ヒントン、
スチュアート・ラッセル2024年6月4日
このリンクからAmazonで買い物をすることで、MacDailyNewsを無料でサポートできます。
MacDailyNews
の見解：頑張ってください！ MacDailyNewsへのサポートにご協力
くださいここをクリックまたはタップして、私たちの独立したテクノロジーブログを応援してください。ありがとうございます！
このリンクを使用して Amazon で買い物をすると、追加費用なしで MacDailyNews をサポートできます。
AppleはiOS 26でWalletアプリのメジャーアップデートを発表し、搭乗券のエクスペリエンスを強化して航空旅行を簡素化しました…
iOS 26.1 の 2 番目のベータ版では、Apple は iPhone のアラームを再設計し、以前のバージョンと比べてアラームを解除しにくくなりました…
トロフィーを追い求め、王朝を築き、チャンピオンを決める難しい決断を下す Football Manager 26 Touch が、Apple Arcade に帰ってきます…
アップルは火曜日、「ブルースクリーン・オブ・デス」と題した新しい広告を公開した。これは昨年発生したWindowsコンピュータの重大なクラッシュを揶揄したもので…
ロンドン警察は、盗難iPhone4万台を中国に密輸した疑いのある犯罪組織を壊滅させた。これは同組織による過去最大のiPhone窃盗事件となった。
