セルビアのソーシャルカードシステムが抱えるプライバシー問題
※このインタビューは2023年9月8日に収録されました。キャッチ画像はセルビアとは関係ありません。
国全体の考え方が変化するに伴い、社会規範も徐々に変化していくことになります。
今回は弁護士としてセルビアの市民団体Partners Serbiaでプライバシー保護の活動に取り組むアナさんに、セルビアの社会規範の変化とプライバシー保護についてお伺いしました。
前回の記事より
セルビアのソーシャルカードの仕組みについても教えて頂いてよろしいでしょうか？セルビア市民にとって何が大きな問題になっているのかお伺いできると幸いです。
セルビアのソーシャルカードシステムが抱えるプライバシー問題
Ana: わかりました。ソーシャルカードシステムは昨年に開発されたものです。導入されてから一年と半年が経過しています。システムが導入されて以来、システムが抱える構造的な問題によって約2万人以上の人たちが社会保障システムから除外されてしまっています。
（動画：Challenging the (ANTI) Social Card Law in Serbia）
これまでに約15%の人たちがソーシャルカードシステムの導入に伴い制定された法律の問題で保障対象から除外されることになりました。このソーシャルカードシステムは自ら登録するか、他の公共サービスで登録した情報をもとにアルゴリズムで情報を処理する設計になっています。
システム内に設けられたアルゴリズム技術で記録された個人の情報を処理することにより対象の市民のプロフィールを特定し、社会保障システムの対象者であるか否か、もしくは申請が必要な対象者であるか否かを判断する設計になっています。
この社会保障システムが導入されて以来、本来社会的な支援が必要な市民が対象にならない問題が起きています。システム上では140の異なるタイプの個人情報の処理が行われています。システム内で設計されたアルゴリズムで情報の処理を行います。
このシステムの大きな問題点として利用者も政府担当者も、そして研究を行っている専門家コミュニティの方々もアルゴリズムがどのように機能しているのか十分に理解できていないのです。
セルビアではロマという民族が住んでいるのですが、彼ら彼女らがこのシステムを導入することによって最も大きな影響を受けています。
（動画：ロマ人：社会的統合への道）
システム内のアルゴリズムによって対象者の差別が行われ、本来支援が必要な方々への支援が行き渡っていません。私がこれまで話をしてきたアルゴリズムの仕組みに対する透明性の無さについては、利用者に通知するように法でも規定されていますが、機能していません。
一方で一般の方にはAIを利用することでどういった決定が行われているのかが十分に周知されず、AIによる独自の決定によって個人の社会保障サービスにも影響を与え、個人の権利を保護するために必要な法的な救済が行き届かなくなることになるのです。
先ほど私たちのデータ保護法制が欧州の制度と関連していると話しましたが、母国のソーシャルカードシステムについて欧州のGDPRにおいても問題になるテーマです。
ソーシャルカードの制度を定める法律についてはデータ保護法の規律を十分に満たせておらず、市民団体グループは法目的について裁判所で問い直すように働きかけを行っています。
私たちの活動はアムネスティインターナショナルのような国際的な団体にも支えられていて、現在は裁判所の判断を待っているところです。しかし、私たちが決定を待っている間にも多くの人たちがアルゴリズムの判断によって社会保障システムから阻害されてしまっています。
現在導入しているアルゴリズムによって社会保障の対象か否かの判断が行われてしまった場合には、本来は対象である人にも否と通知が行われてしまっています。
ソーシャルワーカーはアルゴリズムによる証明書発行の判断を静かに待つしかないのです。基本的にはこれまでに発生した問題のあるケースに関しても、特段考慮し直すこともできません。
申請者が申請を拒否された場合には、受理されるまで何度も申請を行う必要があります。申請作業を行う場合に、システムによっては対応に大幅な時間がかかってしまいます。生活のために社会保障支援が必要な場合もあるのですが、支援できる範囲は非常に限られています。
私たちは現在裁判所による決定を待っています。システムによって起こりうる差別や、差別による社会活動への影響が大きくなることを望んでいません。AIを導入することによって起こりうるプロファイリングの制度についても懸念しています。
これまで話をしてきた懸念の中で、特にシステムの影の部分については非常に関心を持っています。なぜなら、政府はシステムについての情報を一般に公開していないからです。
Kohei: 誰でもアクセスできるような社会インフラを保護することはとても大切だと思います。セキュリティを高めていくことも重要ですね。私たち全ての人にとっても大切な内容です。セルビアで起きている重要な問題について共有いただきありがとうございます。
アナさんはインタビュー内で新技術開発の過程でデータ保護に取り組む重要性についてお話しされていました。AIや監視技術については、世界中で議論が行われています。
ここからはアナさんのご意見についてもお伺いできればと思います。デジタル監視システムに対して、今後どういった技術要素の検討が必要になると思いますか？
（動画：Digital Surveillance in Serbia | Ana Toskić | TVP World）
デジタル監視社会に対抗するために私たちは何ができるのか
Ana: 私たちがプライバシーの専門家として新しい技術について議論を行う際には、AIを始めとした新技術の導入に対して懐疑的だと考えている人もいると思います。
例えば、プライバシー専門家がAIのプライバシー課題を問題視して、AIを社会で利用できないように反対意見を投じていると考えている人もいるのではないかと思います。私たちプライバシーの専門家は、こういった根も葉もない誤解を解く必要があります。
私たちが議論していることは新しい技術によって生まれるイノベーションと人々の権利を同じレベルで考慮する必要があることを伝えたいのです。
異なる技術要素であったとしても、利用目的によって技術が生み出す社会の方向性が変わっていくことになると思います。デジタル上での監視活動を強めていくことで、デジタル空間で活動する人たちに様々な影響を与えることなります。
私たちは監視技術について話をするときに、デジタル監視資本主義、国の監視体制を話題に出して議論を行います。こういった監視の問題に対応するために、VPNを利用したり、暗号化技術や二段階認証等の技術でできることがあると考えています。
監視から逃れるためには個人が自ら働きかけることが必要です。私たち一個人は知識をつけたり、自らの権利であるプライバシー保護に取り組むために必要なリソースへの投資が求められることになります。
私たちのコミュニティではプライバシーを保護するためにどういった技術的解決策が考えられるか議論を行っています。解決策の中には、政策レベルの対策もあれば、産業ごとに自主規制を行うやり方もあります。大手テクノロジー企業では監視対策に向けたシステム開発の議論も進みつつあります。
監視環境から変化するためには継続した教育や社会周知、様々なデジタル技術に対して十分なスキル習得と実践が求められることになります。
市民と一緒に議論の輪を広げていくことは市民団体が担うことができる役割だと考えています。一方で、産業を含めた多くの分野の方々と議論を行い、システムレベルでデジタル空間での監視対策について取り組むことができるのかを考えることも必要です。
デジタル社会の発展に向けて民主的な意思決定システムが十分に浸透していないことに取り組んでいくことが求められます。
異なる立場の人たちが議論することが社会問題の解決に繋がる
Kohei: 貴重な知見を共有いただきありがとうございます。技術的には様々な開発が進んできていることがわかりました。
新しい技術開発に加えて、技術によって引き起こされる問題や問題の解決策についても政治的な内容も含めて議論が必要だと思います。問題の解決にあたっては政治的な議論以外にも広く目指す社会と新技術をテーマに考えることが必要です。
アナさんのご経験を共有することは非常に参考になります。最後にアナさんから視聴者の皆様へメッセージをお願いしてもよろしいでしょうか？アナさんが市民団体で活動されてきた経験を皆様にお伝えできればと思います。
Ana: いくつか伝えたいことをまとめてお話しできればと思います。私たちは未来の社会を設計していくために、皆で協力して取り組みを進めることが必要です。
企業や団体、行政や市民社会、大学等が協力して、我々の人権を軸に世界的なインパクトについて考えていくことが求められるのです。盲目的に技術を活用することに注力するのではなく、社会問題は我々人類が生み出しているものであるという視点に立って考えることが大切です。
私たち一人一人も社会問題を生み出す要因であり、私たちが生み出した問題をどのように解決するのかは私たちの取り組み次第です。目の前にある技術だけに頼るのではなく、異なる人たちが集まり複雑な問題について議論をすることが必要です。議論のテーマには貧困問題や、気候変動、教育の質等が該当するかもしれません。
私たちが生み出す技術は、ただ技術を活用することで問題が解決するわけではないことを理解することも必要です。
Kohei: 新しい技術が社会に浸透していく過程で様々な人たちと協力することはとても重要だと思います。未来に向けて一緒に考えていくことはとても重要なメッセージになると思います。
本日はインタビューにお越しいただきありがとうございました。今日はアナさんとお話しできて新しい発見がありました。
Ana: こちらこそ貴重な機会をいただきありがとうございました。
Kohei: ありがとうございます。
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫
この記事が気に入ったらサポートをしてみませんか？