気になった英文記事(The Washington Post)

たまに埋め込み出来ないのなんでだろう。

https://www.washingtonpost.com/

https://www.washingtonpost.com/opinions/2023/03/28/ai-machine-learning-safeguards/

DeepLによる訳文

オピニオン
AIはすべてを変える。それを乗り切るためには、新しいガードレールが必要です。そしてすぐにだ。
Darren Walker and Hemant Taneja
March 28, 2023 at 1:31 p.m.EDT

ダレン・ウォーカーはフォード財団の会長で、"From Generosity to Justice "の著者： From Generosity to Justice: A New Gospel of Wealth "の著者。Hemant TanejaはGeneral CatalystのCEOで、"Intended Consequences "の著者です： 責任あるイノベーションで市場をリードする企業を作る方法"
人工知能革命が到来した。私たちの一人はベンチャーキャピタリストであり、もう一人は慈善事業家です。そして、あらゆる分野のリーダーたちが、次に来るものに何十億もの賭けをするのを目の当たりにしています。
だからこそ、今は危険な時なのです。機械学習は、一昔前のインターネットがそうであったように、あらゆるものの未来を良くも悪くも激変させる勢いです。
しかし、現在進行中の変革は、インターネットを温故知新のように見せる可能性があります。AIは、市民の自由を無視し、人種差別、カースト、不平等を蔓延させるなど、人間のあらゆる欠点を拡大・拡散する能力を備えています。

機械学習は人間の学習を模倣し、データポイントや経験を総合して結論を導き出す。その過程で、これらのアルゴリズムは人間のエラーやバイアスを再現し、多くの場合、その結果が私たちの目の前に現れるまでわからないような方法で、人間のエラーを再現します： 例えば、耐え難い残虐行為、不当な逮捕、何百万人もの黒人のための重要なケアの喪失などである。
AIは、私たち自身の欠陥のある人間のデータセットを基に、道徳心や社会的圧力、法的制約にとらわれずに学習します。ほとんど定義上、AIは基本的なガードレールを無視することになります。
これは、民間企業、公的機関、市民社会など、すべての人にとって重大な試練となる。
AIを研究・開発する企業は、強力なツールを、責任を持って吸収・行使する準備が整っていない一般市民と共有することになります。政府は、この技術を利用する人々や、この技術によって不利益を被る可能性のある人々を保護するために、この技術を規制する能力が十分ではありません。そして、どちらのグループも他者を理解し、協力する必要性をあまり感じていない。

このような状況から、私たちは警鐘を鳴らしています。
今こそ、AIシステムの学習に使用されるデータセットと、AIシステムの意思決定に組み込まれる価値観の両方について、より透明性の高い新しいルールとツールが必要なのです。また、私たちは、仕事の急速な再定義に伴う経済的な混乱に対処するため、さらなる行動を求めています。
ソフトウェア開発者は、「アルゴリズム・カナリア」（フェイクニュースのような悪意のあるコンテンツを発見するために設計されたモデル）による継続的な監視と、外部の独立したアルゴリズム監査に取り組むべきです。私たちは、OpenAIのCEOであるSam Altmanが最近、同社の研究を独立した監査に公開することを約束し、また、安全プロセスを無視してできるだけ早くモデルをリリースするという無謀な競争を避けるために業界に対する彼の挑戦に心を動かされています。

政策立案者と規制当局は、プライバシー、安全、競争の保護についてキャッチアップしなければなりません。AI関連の博士号を持つアメリカの労働者の半数以上が、一握りの有名企業に勤めています。そこで、私たちの選出した代表者は、議会、商務省、労働省、FCC、SECにまたがる政府全体の取り組みを開始し、それに見合う規制の枠組みを構築する必要があります。そのためには、技術的なリテラシーや専門知識を広く共有する必要があります。フォード財団などが、技術者を議会内の各オフィスに配置する取り組みを支援しているのも、公益的な技術を求める動きが活発化している一因です。
政府の監視に加え、ベンチャーキャピタルや新興企業のコミュニティも進化を遂げなければなりません（しかも迅速に）。投資家は、意図しない結果を回避するために他人を当てにすることはできません。つまり、投資前に綿密な調査、シナリオ・プランニング、境界線の設定を行う必要があります。責任あるイノベーションのガイドラインを設定し、この変革的なテクノロジーの可能性を引き出し、落とし穴を回避する方法を標準化する必要があります。

資本主義が自滅することは誰も望んでいない。だからこそ、民間企業は価値の定義を広げ、株主だけでなく、すべてのステークホルダーの利益を含まなければならない。生産性の向上と賃金を連動させることで、企業は、新技術に投入される資金が、裕福な投資家や創業者層を越えて流れるようにすることができます。また、従業員所有権から利益分配まで、公平な富の創造モデルを復活させ、ごく一部の労働者に富の創造が集中するのを抑えることができる。

私たちは、テクノロジーが根こそぎ破壊することを知っています。オフショアリングとオートメーションによって壊滅的な打撃を受けた全米の製造業のコミュニティは、その危険性をはっきりと思い起こさせてくれる。特に、高度なスキルを持つ労働者を必要とする複雑な職務において、企業が直面している大規模な労働力不足を考えると、AIを活用しようとするすべての企業は、従業員の再教育能力を構築する必要があるのではないでしょうか。
最後に、ビジネスリーダーは、混乱から利益を得て、慈善事業で懺悔することを想定するのはやめなければならない。企業のリーダーは、最初から意図的に設計するのではなく、バックエンドで被害を軽減するために、慈善活動、企業の社会的責任（CSR）、環境・社会・ガバナンス（ESG）の言葉を使うことがあまりにも多い。
人工知能は、単なる技術的なブレークスルーではありません。私たちがこの試練を乗り越えるためには、誰もがこれまでとは異なる方法でビジネスを展開しなければなりません。

www.DeepL.com/Translator（無料版）で翻訳しました。

原文

Opinion
AI changes everything. We need new guardrails to survive it. And soon.
By Darren Walker and Hemant Taneja
March 28, 2023 at 1:31 p.m. EDT

Darren Walker is president of the Ford Foundation and author “From Generosity to Justice: A New Gospel of Wealth.” Hemant Taneja is CEO of General Catalyst and the author of “Intended Consequences: How to Build Market-Leading Companies with Responsible Innovation.”
The artificial intelligence revolution has arrived. One of us is a venture capitalist, the other a philanthropist, and we see leaders in every field placing bets, by the billions, on what comes next.
That makes this a perilous moment. Machine learning is poised to radically reshape the future of everything for good and for ill, much as the internet did a generation ago.
And yet, the transformation underway likely will make the internet look like a warm-up act. AI has the capacity to scale and spread all our human failings — disregarding civil liberties and perpetuating the racism, caste and inequality endemic to our society.

Machine learning mimics human learning, synthesizing data points and experiences to formulate conclusions. Along the way, these algorithms replicate human error and bias, often in ways not discernible until the consequences are before us: Intolerable cruelty, unjust arrests, and the loss of critical care for millions of Black people, to name a few.
AI trains on our own flawed human data sets — unrestrained by a moral compass, social pressure or legal restrictions. Almost by definition, it ignores fundamental guardrails.
This is a profound test for everyone: the private sector, the public sector and civil society.
Businesses that research and develop AI are sharing a powerful tool with a public that might not be ready to absorb or wield it responsibly. Governments are poorly equipped to regulate this technology in a way that safeguards the people who use it or those who might be dislocated by it. And neither group feels much urgency to understand or work with the other.

All of this has our alarm bells ringing.
The time has come for new rules and tools that provide greater transparency on both the data sets used to train AI systems and the values built into their decision-making calculus. We are also calling for more action to address the economic dislocation that will follow the rapid redefinition of work.
Software developers should commit to continuous monitoring through “algorithmic canaries” — models designed to spot malign content like fake news — and external, independent audits of their algorithms. We are heartened by OpenAI CEO Sam Altman’s recent commitment to open the company’s research to independent auditing — as well as his challenge to the industry to avoid a reckless race to release models as fast as possible without regard to safety processes.

Policymakers and regulators must catch up on protections for privacy, safety and competition. More than half of American workers with AI-related PhDs work for a handful of big-name companies. So, our elected representatives should initiate a whole-of-government effort — across Congress, the departments of Commerce and Labor, the FCC, and the SEC — to build a regulatory framework to match. This would require widely shared technical literacy and expertise — one reason that the Ford Foundation and others are supporting efforts to place technologists across offices on Capitol Hill, one element of the gathering movement for public-interest technology.
In addition to government oversight, the venture capital and start-up community must evolve — and quickly. Investors cannot count on others to allay unintended consequences. We must pursue intended consequences from the start, which means in-depth investigations, scenario planning and boundary setting before investment. We must set responsible innovation guidelines, which will standardize how we unlock the possibilities and avoid the pitfalls of this transformational technology.
No one wants capitalism to destroy itself — which is why the private sector must broaden its definition of value to include the interests of all stakeholders, not just shareholders. By retethering wages to rising productivity, firms can ensure the dollars pouring into new technologies flow beyond the wealthy investor and founder class. They can revive models of equitable wealth creation, from employee ownership to profit-sharing — beginning to reduce the concentration of wealth creation among a very small subset of our workforce.

We know that technology will uproot and upend. Manufacturing communities across the country, decimated by offshoring and automation, offer a stark reminder of the stakes. Every company that endeavors to use AI ought to build retraining capabilities for its people, especially given the massive labor shortages that businesses face in complex roles that need highly skilled workers.
Finally, business leaders must stop assuming that they can reap the profits of disruption and then repent through philanthropy. All too often, corporate leaders use the language of philanthropy; corporate social responsibility (CSR); and environment, social, and governance (ESG) to mitigate harm on the back end rather than designing with intentionality from the start.
Artificial intelligence isn’t just another technological breakthrough. If we are to survive this test, everyone must do business differently than in the past.