佐藤仁学術研究者・著述家 9/10(木) 23:20
AI研究者はなぜ人工超知能の開発競争を警告するのか――安全技術の確立よりAI能力向上の優先を危惧
Anthropicの元研究者ジェイコブ・コクソン氏は9月8日、辞任をXで明らかにしました。
OpenAIとAnthropicでAIモデルの事前学習に携わり、両社は責任ある行動を取らず、
自己改善型の人工超知能の開発競争で「人類の命運を賭けている」と批判しました。
さらに、AI開発者の一部は人類滅亡の可能性を本気で懸念し、「マーケティング上の演出ではない」と強調しました。
Anthropicのエバン・ヒュービンガー氏も、10年以内の人類滅亡確率を10％超と推定し、
人工超知能を制御する方法が現在未確立だと認めました。
https://news.yahoo.co.jp/expert/articles/3942f449ae966acbf07df4f9c0dfcca8bdd20cc0 |
記事のロック開閉