マガジンのカバー画像

第6章 スマーター・ザン・アス

10
革新的な人工知能が今世紀中に開発されることは十分にありえます。そうなれば、人工知能は我々の代わりに/ために数多くの重要な決断をし、経済成長のような変化を急激に加速させるようになる…
運営しているクリエイター

2024年3月の記事一覧

スマーター・ザン・アス

革新的な人工知能が今世紀中に開発されることは十分にありえます。そうなれば、人工知能は我々…

人類に対するAIの脅威を真剣に受け取るべき理由

Kelsey Piperは、Voxの効果的利他主義に基づく世界最大の課題に関するセクションを担当するFu…

モダンな深層学習でAIアライメントが困難になるかもしれないわけ

ホールデンは以前、高度なAI(人工知能)システム(例:PASTA)が、人間を欺いたり、人間から…

AIのタイムライン ─ 提案されている論証と「専門家」の立ち位置

オーディオ版がCold Takesで利用可能です(あるいはStitcher, Spotify, Google Podcasts, etc…

長期主義的AIガバナンスの展望:基礎的な概要

目的:長期主義的なAIガバナンスで何が起こっているのか、基本的な概要を説明する。 対象者…

キャリアレビュー:人工知能の安全性に取り組む研究者

この記事の概要人工知能(AI)の開発に伴うリスクを軽減するために、強力なAIのシステムが予…

AI関連の破局を防ぐ [分析結果]

私たち(80,000 Hours)はAI由来の存亡リスクを減らすという問題について、これまでで最も長く、最も詳しい分析結果を公開しました。 分析結果はこちらで読むことができます。 この投稿の残りの部分では、この分析の背景の一部や、要約、目次を掲載します。 背景私たちの提供する他のコンテンツと同様に、こちらの分析結果は、80,000 Hoursのウェブサイトを何度か読んだことはあるが、それ以外では、EAにはあまり馴染みのない読者を対象としています。そのためこの分析結果は

信念に賃料を払わせる

こうして昔の寓話が始まる。 森で木が倒れたとする。そこには誰もいない。さてこの時、木は音…

証拠とは何だろうか?

「雪は白い」が真であるのは、雪が白いとき、またその時に限る。 — アルフレッド・タルスキー…

Sリスクはなぜ最悪の存亡リスクなのか。どう回避すべきか

Sリスクは宇宙規模で著しい量の苦しみを生むリスクです。「著しい」とは、将来の苦しみの期待…