Monday, April 17, 2023 11:44 AM
オープンAIのCEO、開発一時中断要請に部分的に同意
オープンAI（OpenAI）の創設者サム・オルトマンCEOは4月13日、生成人工知能技術の研究&開発に警鐘を鳴らした「生命の未来研究所（Future of Life Institute）」の公開書簡にイーロン・マスク氏やスティーヴ・ウォズニアック氏を含む数十人の技術業界要人らが署名し、GPT-4（Generative Pre-trained Transformer 4）以降の開発を6ヵ月間停止するよう求めたことに対し、部分的に同意したと同時に、「どの時点で一時中断すべきかに関する技術的具体性に欠ける」という見方をMIT（マサチューセッツ工科大学）での意見交換催事で示した。
オープンAIが開発したチャットGPTは、史上最速普及ソフトウェアの記録を塗り替え、世界中の技術業界や利用者のあいだで生成人工知能応用熱の火付け役となった。
CNBCによると、「安全性の問題に対して慎重かつ厳しさを増して対応することは本当に重要だ」とオルトマン氏は発言したが、生命の未来研究所が出した開発中断要求公開書簡については「それが最適の方法だとは思わない」と述べた。
同書簡にはその後、2万5000人以上が署名した。
生成人工知能は、利用者の指示や問い合わせに対し回答を瞬時に表示することで、2022年11月の公開以来、世界中の利用者や技術者らから称賛されている。しかし、嘘の情報や間違いを断言して答えるという欠点も指摘されほか、有害の情報や意見を流布するのに悪用される危険性も当初から懸念される。
マスク氏らが署名した公開書簡は、「人工知能研究所群と独立した専門機関らがGPTの開発一時中断期間を利用して、今後の生成人工知能の厳格な監査および審査のほか、高度の人工知能設計に関する指針や制度を含む一連の共有安全性プロトコールを共同で整備すべき」と提唱している。
https://www.cnbc.com/2023/04/14/openai-ceo-altman-addresses-letter-from-musk-wozniak-calling-for-ai-pause.html