CIID Week15: 未来と倫理とデザインと
今週の1週間は、Design & Ethics (デザインと倫理) というクラスを実施しました。これまでのクラスとは少し色が異なり、「デザインしたプロダクトやサービスが将来人や社会に与える影響を考える」ためのクラスとなります。まさに倫理ですね。
最近の1ヶ月はソフトウェアであれ、ハードウェアであれ、何かを作る授業が続いていたので、このような抽象的な内容に違和感を覚えた学生も多かったようです。またCIIDとしても初めての試みとなったようで、講師もどんな風に教えたら良いか迷っているような印象を受けました。そのため、クラス全体の印象はそこまで良くなかったです。
それでも、将来のことを考えるSpeculative DesignやそのStorytellingなど、デザイナーとして身に付けておきたい知識やスキルをカバーしていたので、学びはありました。今回の記事では、理論的な部分やその実例を解説しながら、実際のプロジェクトについても書き連ねていきたいと思います。
デザインの文脈における倫理とは何か
グーグルで検索すると山のように海外の文献やウェブサイトが出てきますが、今回はクラス中に紹介された、VIRT-EUというヨーロッパの団体に基づいて解説したいと思います。
VIRT-EUとは、”Values and Ethics in Responsible Design in Europe”の省略形で、エンジニアが何かをデザイン・開発するときに、「デザインしたプロダクトやサービスが人や社会に与える影響を事前に考える」ことを促すために作られた団体です。実はCIIDも、調査やツールのデザインという形で、この団体の発展に寄与しており、CIIDだけでなく、OxfordやLSEなど著名な学術機関や企業も携わっており、最近注目されていると聞きました。
とはいっても、何かプロダクトを実際に作っているわけではなく、あくまで教育やインキュベーションの役割が多く、ツールの提供やワークショップの実施等を通したデザインにおける倫理の普及に留まっています。
ところで、デザインにおける倫理と聞いた時に、皆さんはどのようなことを思い浮かべるでしょうか。自分の場合は、サステナブルという言葉がすぐに頭の中に浮かんできたのですが、それ以外は見当もつきませんでした。
倫理というと、以下のような分類が一般的には存在しますが、抽象的な部分に深入りしません。代わりに下記のウェブサイトに基づいて噛み砕きたいと思います。
Deontology: Follow your obligations to another individual or society because upholding one’s duty is what is considered ethically correct. … but there is no rationale or logical basis for deciding an individual’s duties.
Consequentialism: The consequences are the only things that ultimately matter. Our ultimate goal is to make things go as well as possible. (Sometimes can seem like costs and benefit calculations)
Utilitarianism: We should try to maximize good consequences, and happiness is what matters most. [utilitarianism is an example of consequentialism]
Moral Relativism: Some do it one way, others do it another way, and that’s all there is to say
Virtue ethics: Which action leads me to act as the sort of person I should be? We can achieve a good life through cultivating specific moral traits and capacities
Care Ethics: We can take good choices and achieve a good way of living together if we deepen our care towards one another
Rights Approach: Which action will respect the rights of those who have a stake in the decision?
何かの文脈で倫理が成立するには、3つのアプローチが存在すると言います。まずは、”Virtue Ethics”という、個人の経験や環境に即して(自分や自分に近しい人にとって)より良い生活を目指すアプローチ。次は、”The Capabilities Approach”という、個人ができることと、社会や環境や政治といった外的要因と重ね合わせて良い生活を目指すアプローチ。最後に、”Care Ethics”という、ソリューションが与える予想外の影響を考慮して、多くの人にとって良い生活を目指すアプローチとなります。
(全く意味がわかりませんね)
著名な団体がこのレベルの定義をしているので、おそらく世界的に見てもまだまだ発展途上の分野なのだと、個人的には認識しました。
またデザインする前からあれこれ考えすぎるのは、これまで学習してきたプロトタイプの本質とも大きく矛盾する気がします。プロダクトやサービスがローンチする前は、おそらくユーザーに受け入れられるのか、ということに集中しているので、このような概念は後回しになることは必至です。
そもそもなぜデザインに倫理が必要なのか
一方で具体例を用いると、なぜデザインにおいて倫理が着目されているか、分かりやすいです。デザインというよりもテクノロジーの進展という文脈が大きいかもしれません。
例えば、今や誰もが知っているAirbnb。スタートアップやデザインの世界では、MVPを意識して作られたサービスだとか、人間中心デザインの代表的なサービスだと言われることが多いですが、実は倫理的な問題で参考にされることも多いサービスです。
というのもAirbnbが流行り始めて以来、特定の地域では家賃が上がり続けており、その地域の住民にとっては迷惑になっていることがあるからです。「旅行者」というユーザーには良いサービスであっても、「普通の住民」にとっては大変迷惑なサービスということになります。
また誰もが利用しているFacebookですが、自分が公開している写真や属性情報がどのように使われているか、ご存知ですか。あまり気にしている人は多くない印象ですが、2018年に、Cambridge Analyticaという選挙コンサルティング会社が不正に3000万人分のデータを入手したという事件があります。特にユーザーがデータの提供に同意したわけではなく、ユーザーの利便性を高めるために公開していたAPIを通じて、Cambridge Analyticaがデータを入手してしまったわけです。その後FBのAPI公開は大幅に制限されることになりました。
このようにAirbnbもFBも特定のユーザーに対して、より良いサービスを提供しようとしていたわけですが、ローンチ後に予期せぬ結果を生んでしまったケースは多く存在します。だからこそ、今デザインにおいて倫理を最初から考える必要があるということです。
Speculative DesignとDesign Ethicsの関係
とは言っても、サービスをデザインする段階で未来を見通すことは、困難を極めます。簡単の想像できることなのであれば、最初から考慮してサービスが設計されているはずです。
そこで有効な手法として、Speculative Designという分野が存在します。未来で想定されるシナリオをいくつも考える手法なのですが、今回の文脈では、倫理的に問題が生じるのであれば、その問題を防ぐようにプロダクトやサービスをデザインしようということになります。Speculative Designについては、下記のNoteで分かりやすく掲載されています。
問題はその倫理をどのようにプロダクトやサービスに埋め込むか、ということで、そのプロセスとフレームワークを今回のクラスでは学習しました。
Step0: Define Context
今回のクラスのプロジェクト趣旨は、「先端テクノロジーによって作られたプロダクトが将来どのような影響を社会や自然、経済に対して与え得るかを考えて、現状をどのように変えるべきか」明確にすることにありました。
また自分たちのグループには、スマートウォッチがお題として与えられており、スマートウォッチの機能と使われるコンテクストを明確にした上で、将来への影響を考えることになりました。
今回考えていたスマートウォッチは、親や子守が赤ちゃんの感情をモニターするためのデバイスです。赤ちゃんの心拍数や体温、表情などから赤ちゃんの状態や感情を類推し、親や子守に必要なアクションを提示します。少々無理がある機能設定ですが、未来のことを考えているため、ここでは良しとしました。
将来のことを根拠なく考え始めても発散するだけなので、年代を2070年頃とし、既存のリサーチからその時期のコンテクストを定義することから始めました。その結果、以下を自分たちのコンテクストにすることにしています。
1. 大気汚染によって人が簡単には外出できずに、大半の人が家の中での生活を余儀なくされている
2. 2000年代の後半から、人口減少が始まっている
このコンテクストに基づくと、あり得そうなシナリオとして、大気汚染によって夫婦がWFH (Working From Home) を強要され子育ての時間を制限される中、労働人口減少に伴う子守の減少によって、子守を雇うことができない家庭が増えそうだと、チームで合意しました。そこで自分たちが考えたのが、Robot Caretakerです。スマートウォッチとRobot Caretakerを接続することにより、Robotが自動的かつ効率的に赤ちゃんのお世話をすることを可能にします。
Step1: Speculative Design Map
次のステップでは、見慣れないフレームワークが登場しました。端的に言えば、設定したシナリオから生じる良い/悪い影響と、変わった影響を考えてストーリーを紡ぐためのフレームワークです。正直これがなくても、ストーリーは書けそうな気がしますが、一応先述したVIRT-EUが考案したフレームワークとのことです。
このステップでは、チームメンバが議論好きなこともあって、意外にも盛り上がりました。例えば、ロボットが子育てをしてくれれば、女性の社会進出が格段に増える、でも世の中はロボットによって支配され、子供にとってはロボットのみが友達になる、またデータ漏洩の問題が増える等、多くの観点から未来のストーリーを紡ぐことができました。
Step2: Initial Storyboard
次は考案したストーリーを文書化するステップですが、誰をこのストーリーの主人公にするかで、未来の意味合いが変わることに気づいたので、チームメンバそれぞれが、別の主人公を考えてストーリーを文書化しました。
・赤ちゃん
・社会進出を望む母親
・ロボットによって職を奪われた子守
・ロボット導入に反対している人
・ロボット
結果的には、ロボットによって職を奪われた子守の視点が、コンテクストの深刻さやリアリティを如実に表すことができていたので、それを採用しました。以下が全文になります。
23rd March, 2070
Today, I lost my job to a machine, after working as a Nanny for almost 2 decades. It wasn’t my dream to become a Nanny, it isn’t anyone’s dream. Life was tough and I had to find a job that paid my bills. Soon enough though, working with kids and supporting their families gave me more happiness than anything else. From celebrity kids to parents who could barely afford a Nanny, I’ve worked with all kinds of families, sharing a bond that’s tough to explain through words, a special bond that a Nanny shares with a kid, arguably in their most fragile state, physically and mentally.
I still could find work though until last month, when the government made it a rule that all new borns must wear a similar band like ‘White’. There could be positives in this but as a Mom myself now, I am worried about the government using the kid’s data and issues like privacy. A part of me is also worried about what the future generations of kids would be like - will they still have a bond that they shared earlier with their parents or with other kids?
All of us have a lot to ponder about but I have to look for a new career cause working as a Nanny is no more an option.
このクラスの趣旨とは異なりますが、Storytellingは他者を自分が考えている世界観に引き入れるのに非常に重要だと感じました。このストーリーの良い所は、子守自身の状況を語りつつ、チームで考えた世界観をカバーしているので、聞き手が入りやすいなと思います。またプロダクトによって雇用喪失という問題提起も行っているので、説得力もある構成になっているなと感じました。
Story Tellingで有名なコースをここに掲載しておきます。複雑なことをデザインしている時には特に有効なので、継続的に練習していきたいと思います。
Step3: See Our Future Through Ethical Lens
ストーリーが完成したところで、次のステップでは、その中にどんな倫理的な側面があるか考えていきます。倫理的な側面とは、先に紹介した”Consequentialism”や”Consequentialism”などのことを表します。これによって、プロダクトやサービスを作ることで、未来がどのように変わってしまうのかを考えることができます。自分たちのグループでは、以下の側面に着目して、プロダクトが未来に与える影響を考えてみました。
Rights Approach: ロボットが子育てをし始めて、ロボットが赤ちゃんの感情を理解することができるのであれば、「赤ちゃんの権利」を主張することができるはずです。現在は親が赤ちゃんのことを考えて、権利を主張していますが、赤ちゃんの感情が理解できるのであれば、それは不要になります。
Relativism: 大気汚染によって外出が困難な中、赤ちゃんにとってはロボットが唯一の触れ合う対象となります。その場合、人間との物理的なコミュニケーションが欠如するので、赤ちゃんが将来的に社会的な側面を失う可能性がありますが、それを肯定する人もいれば、否定する人もいます。
Consequentialism: ロボットが親に赤ちゃんの感情を通知するということは、母親か父親にそれを通知することになりますが、場合によっては母親ばかり世話をして、父親はしないなんてことが起きるかもしれません。ロボットで子育てが効率的にできるからと言って、それが正しいソリューションになるとは限りません。
ここでグループで気づいたのは、前半二つは倫理的に考えて、Provocative(行き過ぎ・バカバカしいこと)だということです。一方で最後のシナリオは、あり得そうだなという結論に至りました。
Step4: Storytelling
最後のステップでは、これまでの議論を踏まえて、最終的にどのようなプロダクトやサービスにするか決める必要がありました。先に述べた通り、ロボットが子育ての全てを担当し、赤ちゃんの感情を理解し切ることは便利な側面もある一方で、倫理的な問題が生じることが分かっていたので、最終的なプロダクトは、赤ちゃんの感情を親に通知できる、赤ちゃん専用のリストバンドにすることになりました。
最終的なStorytellingとしては、倫理的な議論を強調するため、ロボットが子育ての全てを担当し、さらには一括で赤ちゃんの世話を可能とする、赤ちゃん工場が存在するというProvocative(行き過ぎ)なシーンを挟みました。一方でそのような未来を望む人はいないはずなので、最終的には赤ちゃんの感情を親に通知できる機能に絞った、赤ちゃん専用のリストバンドを作ることが、望ましいと結論しています。
少し複雑なストーリーなので、本来であればVideo Storytellingのような形が望ましいですが、今回はチームとしてコラージュとナレーションで世界観を語ることに決めました。コラージュは以下のようなイメージです。
(赤ちゃんがロボットによって世話されている様子を表しています)
最後に
Storytellingのクラスなのか、Design & Ethicsのクラスなのか分からなくなる時がありましたが、少なくとも未来のシナリオを考えて、それに基づいて現在のプロダクトを考え直すプロセスを学ぶことができたと思います。
一方でコンセプト考案やプロトタイピングの段階で、倫理的な側面をどこまで考えるべきかは、まだ分かっていません。何もTangibleなモノがない段階から、未来のことを考えるのは少し無理があるような気がします。また、Speculative Designを使う場面も、もう少し捉えたいです。想像によるところが大きいので、デザイナーとしての意思があって、「このようなプロダクトを作りたい」または、「現在のプロダクトを考え直したい」という文脈でのみ効果を発揮するのではないでしょうか。
必ずしも現在の課題を解決し得ないSpeculative Designをもう少し深く分析したいと思います。
町田
この記事が気に入ったらサポートをしてみませんか？