デザイナーの責任を学んでおく。 #286

デザイナーとして働くあなたは、デザイナーとしての責任について考えたことはありますか？　デザイナーになるためにアドビソフトやビジネスモデルについて勉強することはあっても、「道徳や倫理を学べ」と言われることはないのでは？　今回はデザイナーの倫理を考えるきっかけになる情報をいくつか共有してみます。

「How Might We」よ、クソくらえ。

「Design thinking’s most popular strategy is BS（最も人気のあるデザイン思考の戦略はクソだ）」という記事が2021年に書かれました。デザイナーであれば必ず聞いたことがある"How might we…?(HMW)"が批判されています。

筆者はHMWが使われるようになったのはP&GやIDEO、Googleの白人男性だけによるものだという歴史的経緯を指摘したり、Wicked Problems（厄介な問題）と言われる社会的な問題にも適応されることで「問題を自分たちが解決できる」と錯覚させるなどと書いています。また、電子タバコの「Juul」の例では、「どうすれば社会的に受け入れられるタバコを作れるのか？」という問題設定に取り組んだ結果、若者のニコチン中毒を増加させているという指摘をしています。

代わりに"Who should we talk to?"や"Why are we doing this?"という疑問文を使うように提案するなど、"How might we"という視点だけで世界を見るようになっているデザイン業界に警鐘を鳴らしています。

私もパーソンズ美術大学に留学して最初の授業で学んだツールはHMWでした。実際に使ってみて"How might we…?"というツールはチームが取り組む方向性を皆で揃えるためには有用だと感じますが、その方向性をどこに向けるべきなのかまでは教えてくれないという点に気を付けなければならないのかもしれません。

デザイン倫理担当者の登場

Tristan HarrisはGoogleでDesign Ethicisit（デザイン倫理担当者）という肩書だった人物です。彼自身が大学でPersuasive Techinologyを学んでいた過去を活かし、「人々の注意を奪うためにデザインがどう使われているか」に関する話でTEDに二回登壇しています。

"How better tech could protect us from distraction"では、スマートフォンはスロットマシーンのような中毒性があるようにデザインされていることを指摘します。このようにデザインを使ってユーザーの注意を惹きつけるのではなく、ユーザーの仕事や趣味の邪魔をしないようにしたり、オフラインでの有意義な時間の過ごし方を促すようにするべきだとも提案しています。西洋にマインドフルネスを広めた僧侶のティック・ナット・ハンを引用しているのも印象的です。

"How a handful of tech companies control billions of minds every day"は数十億人に影響を与えるプロダクトに関わる人の責任についての話。人々の注意を奪うためにテクノロジーやデザインが使われている現状に疑問を呈します。どれだけ人間の本能をハックするかの競争が激化し、自社のアプリやサイトに長時間留まってもらうかにデザインが使われていることが大きな問題であると指摘します。

彼がGoogleで働きながらGoogleで働く人の責任を追及したのは2013年。あれから10年が経っていますが、果たしてテクノロジーは倫理的になっているのでしょうか？　ちなみに、『サピエンス全史』で有名なユヴァル・ノア・ハラリ氏は2019年の彼との対談の中で、テック業界の人が倫理や哲学を学ぶ必要性を述べています。

ひとつの手として、例えば大学でコンピューターサイエンスを学ぶなら、プログラミングの倫理性について学ぶコースを必須科目にすることが考えられます。真面目な話、倫理や道徳について学ばずにコンピューターサイエンスの学位が取れてしまうのは、無責任も甚だしい。人の生活をかたちづくるアルゴリズムをデザインする技能を身につけるのに、自分のしていることについて倫理的、哲学的に思考する素養をもたないなんて。いまのままでは、ただ技術的なこと、もしくは経済的な観点しか考えてないんです。だから、倫理や哲学といった要素は最初から組み込んでおくべきです。

WIRED『人間はハックされる動物である』より　太字は私による強調

「デザイナーはゲートキーパーである」

Mike Monterioはデザイナーとして働く中での気づきをもとに、"How Designers Destroyed the World"というデザイナーの責任について講演しています。"Ruined by Design"という書籍にもなっています。彼は性的マイノリティであった大学生がFacebookのプライバシー設定のデザインのせいでカミングアウトをすることになってしまった例から話を始めます。

「経営者やビジネスモデルの話であってデザイナーは関係ない」とか"Not our fault"といった言い訳は通用しない。なぜなら、this world is working as designed（あなたの製品はあなたのデザインしたように動いている）からです。また、誰かが意図的に悪事をしているというよりは、誰も気にしていないから問題が起きるのだとも述べています。そこで、デザイナーこそが責任を取るべきだ（ゲートキーパーであれ）と言います。以下のような提案をしています。

社会的に取り組むべき本当の問題は何なのかを問うべきです。なぜなら、デザイナーという職業の印象はデザイナーのしてきた仕事で決まるからです。そのために、クライアントの依頼が「正しい」と思えなければ断る。たとえ仕事を失うことになろうとも。この決意が「自分は正しい選択をしてきた」と思えるポートフォリオとして残るはず。

彼の話で私が思いだしたのは「ミルグラム実験」です。デザイナーも自分の仕事が社会に悪影響を及ぼしていると気づいても「上司がそう言うから」と言い訳をしてしまう恐れがあるということでしょう。

個人の感想

デザイナーに限らずどんな仕事であっても、自分の業務内容が他者・世界に与える影響は必ずあります。もちろん、ほとんどの人は悪意をもって「悪い影響を与えてやろう」と思っているはずはありません。「ハンロンの剃刀」という言葉があるように、何か好ましくない事態が発生した時に、悪意をもって意図的に発生させた人がいると考えるのではなく、思慮が足りなかったと想定するべきなのでしょう。"Ruined by Design"でもあるように、good enough（これで十分）という妥協・思い至らなさが問題なのかもしれません。

Never attribute to malice that which is adequately explained by stupidity.
無能で十分説明されることに悪意を見出すな

ハンロンの剃刀

ただ、プロトタイピングとか「β版を市場に投入してみる」という姿勢は「人体実験」を行っていることにはならないのでしょうか？　トライアンドエラーで学ぶことは大事ですが、そのエラーで傷つく人がいるかもしれません。統計的に集計されるエラーの先に、実際に一人ひとりの人間の悲しみがあり得ることを想像する必要があるのです。

今は正しいと思っていたことが後になって実は悪い影響を及ぼしていたと分かる場合もあるでしょう。自分の行いが与える全ての影響を予測することなどできません。こうした状況で何が倫理的なのかを判断するのは非常に難しい。

そんな現状では「何が倫理的かどうかは個人の価値観だよね」という結論になり、もしもデザインが悪影響を及ぼしたとしても「ユーザーの自己判断で使っているのだからデザイナーに責任はない」となるしかないのでしょうか？　何が倫理的なのかを判断することはできなくても、考えないよりは考える方が倫理的であることだけは確かだと信じたい。そうすれば、この記事を書いたこと、そしてここまで読んでくださったことが報われるので。