人工知能の脅威

 人工知能の急激な進化により、様々なことが言われています。
一つは、人工知能によって人類が危機にさらされるのではないかという議論です。

宇宙物理学で有名なホーキング博士は「完全な人工知能開発できたらそれは人類の終焉を意味する」と述べています。

また、人工知能が人間の知能を超える、いわゆる「技術的特異点」についてホーキング博士は懸念を表明しており「人工知能の発明は人類史上最大の出来事だった。だが同時に「最後」の出来事になってしまう可能性もある」と述べています。

テスラやスペースXを率いるイーロン・マスク氏は「人工知能は核兵器よりも危険である」とTwitterで述べたり、人工知能が将来人類に深刻な影響与えかねないため規制が必要だと言ういわゆる「AI脅威論」をとることで知られています。
Microsoft創業者のビル・ゲイツ氏もマスク氏の意見に賛同しています。

オックスフォード大学の研究機関の1つ人類の未来研究所のニック・ボストロム所長が書いた「スーパーインテリジェンス:道筋、危険、戦略」は「知能の爆発」の脅威を訴えており、欧米で大きな話題となりました。

イーロンマスク氏や、ビルゲイツ氏も必読書として推薦しています。

このような議論に対して、倫理的な面で様々な対策がなされています。

2016年に米国の主要なIT企業(Google、アマゾン、Facebook、アップル、マイクロソフト、IBM等)が中心的な役割を担い、倫理的な議論を進めています。

米国人工知能学会(AAAI)は多くの研究者が集まってAIの社会的な課題等について議論を重ねています。
オックスフォード大学はThe Future of Humanity Instituteを創設。AI安全性に関しての研究や生会の活動を2005年から行ってきました。Google ディープマインド(英国)やイーロンマスクが主導するやAIを研究する非営利団体Open AIと連携しており、ミーティングやセミナーを開催しています。

日本政府も総合科学技術、イノベーション会議の「人工知能と人間世界に関する懇談会」2016年から2017年1月に設置され検討が行われました。その論点整理概要が公表されています。

民間では、「人工知能学会倫理委員会」が2017年2月に「人工知能学会 倫理指針」を正式に発表しました。

（2018年春に執筆）