Re: LoRA（生成AI）の漫画家への被害について

Trgr / カラストラガラ

OpenAIは「ガードレール」を作っています（挨拶）　はじめまして。note繋がりで、この記事を書いています。どなたかの役に立つことを願っています。


①生成AIについて

これまでは「人や予算」の理由で仕方がなかったことを改善できる可能性があります。ネット社会になって拡大した格差を拡大すると思います。けど、その格差を教育で小さくすることにも使えます。

例えば、彼らにChatGPT+/Claude3/Copilot Pro/Gemini Advance（合計月80ドル相当）を、プライバシーや話した内容を絶対に学習せず無料で使ってもらうとします。希望者だけ。
過酷な状況で守秘義務などや文化の違いで愚痴も言いにくいでしょうけど、生成AIは無限の忍耐で聴きます。翻訳など実務も支援できます。

国内でも30万の不登校の子達の気持ちに寄り添い、孤独な勉強を励ますことも、保護者・教師・スクールカウンセラーなどと連携すれば可能です。

うちの親（1947年生まれ）は、本人の希望で一人暮らししています。デジタルデバイドあるけど、Copilot ProとGemini（Androidユーザーだから）を使うので、デジタルデバイドはあっても不利益を受けることが減りました。私も「それはCopilot Proにきいてみて」と仕事を振ってます。
日本は団塊の世代が後期高齢者だから、生成AIを福祉に使うのは、とてもオススメです。

少しアレンジして、対人援助職の方は、身内にプライベートで頼りにされすぎるはずだから、「生成AIを通して」と頼むこともできます。

こうした使い方が出来るのに——

法律とか金儲けとかそういう話でなく、作家の許諾ない作品をAI学習元に使用し、生成することは、

作家がどんな思いで画力や個性を磨き、長い年月描き続け、活動し、ファンを増やし、今日があるのか、そういったものを全て蹂躙しているのではと考えます。

https://note.com/msak717/n/n7323a8577519

なんて残念な使い方なのでしょう。

②過渡期の混乱のどさくさ問題


まず、樋口紀信先生の被害の件、酷いですよね。


我々は人権や自己決定権など自由を持ちますが、それは無制限ではなく公共の福祉の範囲で自由だと理解しています。

樋口紀信先生への嫌がらせにStable DiffusionのLoRAなどを使用することは、そもそも「嫌がらせを行う自由」の根拠が不明です。

また

上記も、被害に遭わなくても技術的に可能な時点で、とても怖いと思います。

さらに、一般的にルールはルールを守れない人を念頭に決めますよね。

飲酒運転の厳罰化は、合理的な理由があったはずです。

「生成AIを悪用する人は法律も利用規約も倫理も無視するから仕方ないね」という理屈で、例えば他国と比較して日本だけ性能をおさえた生成AIを使う未来も、起きて不思議はないと思います。
つまり、国際競争力で致命的に負けるので、樋口紀信先生個人や推進・反対の立場以前に、日本の企業と教育機関も役所も病院も、全員「連帯責任」になる問題だと意識すべきだと思います。

「過渡期のどさくさだから許された」という決着はまずいと思います。

③安全装置をセットで開発する道

念のため明示します。この記事は個人として発言します。私の責任の範囲で述べます。


私はOpenAIコミュニティの一員で、公式Discordで教育目的で英語のプロンプトを生み出すキュレーターのボランティアをしています。なので、生成AIはOpenAI製品を中心に学んでいます。

OpenAIの利用規約は、ユーザーがOpenAIのサービスを使用する際のガイドラインを提供しています。以下は、OpenAIの利用規約の主なポイントです。

1. **適用法令の遵守**: OpenAIのサービスを使用する際には、適用法令を遵守することが求められます。たとえば、他人のプライバシーを侵害しないようにしたり、規制された活動を遵守したりする必要があります。

2. **自己や他人への害の防止**: OpenAIのサービスを使用して自分自身や他人に害を与えないようにしましょう。自殺や自傷行為を促進するためにサービスを使用したり、武器を開発したりすることは避けてください。

3. **出力の不適切な利用を防止**: OpenAIのサービスからの出力を不適切な目的で使用しないでください。詐欺、スパム、嫌がらせ、暴力の助長、憎悪表現、児童の性的対象化などに利用しないようにしましょう。

4. **セーフガードの尊重**: OpenAIのセーフガードや安全対策を回避しないでください。例えば、セーフガードを回避して不適切なコンテンツを生成することは避けてください。

これらのポリシーは、OpenAIのサービスを使用する際に遵守すべき基本的なルールです。詳細な内容は、[OpenAIの利用規約ページ](https://openai.com/policies/usage-policies)で確認できます¹。

また、OpenAI APIを使用する際のデータ利用ポリシーについても詳細が記載されています。APIを介して提供されたデータの取り扱いに関する詳細は、[こちらのページ](https://note.com/egumiculture/n/nb986b0d79148)で日本語訳されています²。

OpenAIはユーザーのプライバシーを尊重し、安全に個人情報を保持することを約束しています⁵。³⁴⁵

ソース: Bing との会話 2024/5/4
(1) Usage policies | OpenAI. https://openai.com/policies/usage-policies.
(2) OpenAI APIデータ利用ポリシー 日本語訳｜#1｜ゑぐみかるちゃあ. https://note.com/egumiculture/n/nb986b0d79148.
(3) OpenAI利用規約とプライバシーポリシーのアップデート｜Zun-Beho. https://note.com/akikito/n/n3181012d7af1.
(4) OpenAI社の利用規約解説: ChatGPTを利用する上での著作権 .... https://note.com/mayatomo55bity/n/n0e12a96ef137.
(5) OpenAIが利用規約を改定、具体的な禁止事項などを明確に記載 .... https://weekly.ascii.jp/elem/000/004/130/4130807/.

Copilot Pro

https://openai.com/policies/usage-policies

「DALL-Eはコンテンツポリシーが厳しい」という否定的な指摘も受けます。

具体例を２つ出します。

「奥さんが、ルーン魔術を覚えたので、なんとなくイタズラで旦那さんに魔術をかけたら効きすぎて悪夢にうなされてる」趣旨
「やり直せ」と言いたくなるくらい試行錯誤したら黄色のアラート出ました。誤作動だと思います。
こちらは、7才の子なりの人生の葛藤を描きたくて、「週末におめかしして会いに行く厳格なおじいちゃんが好き。けど、何か間違えて失望されるのが怖い」と描いたら
真っ赤です。児童虐待と誤解されました。もちろん、OpenAI側が確認して誤作動なのを理解してくれています。

道路にはガードレールありますよね。無い方が作るのもメンテも費用も全て負担が減ります。けど、必要ですよね。
OpenAIは先進技術と共にコンテンツポリシーを真剣に作ってます。「なぜ」有るのかは、ガードレールと同じです。

ガードレール無しの道を猛スピードで走ることは、大きな事故に繋がります。また、先進的な技術を使う者は高い倫理観を持つべきで、間違って事故を起こさないだけでなく、嫌がらせなどの悪用を行わないようにしないと、先ほど述べたように技術や業界全体の不利益になります。

他者への悪意や攻撃性を剥き出しにする方は、言葉でも石でも、何だって悪用するのではないかと、私は思います。

ディープフェイクポルノに関しては、駅のエスカレーターに盗撮に関する注意喚起ポスターが掲載されていることがあります。駅が公共の場にポスターを貼る必要があります。自制心や倫理観が育っていない方がいるのでしょう。

そうした個人的な問題のある方が生成AIを使う可能性があるのだから、私は「ガードレール」に相当するコンテンツポリシーを一緒に育てることは、意味があると思っています。完全ではないけど悪意に対処出来るし、ユーザーが間違えた時の保険にもなるからです。


極めて複雑な本件ですが、樋口紀信先生の個人のトラブルや生成AIや極端で問題があると思われる非倫理的な人物個人の問題にせず、生成AIが社会統合される過程の問題と理解し、多くの方に「当事者（連帯責任の文脈で）」として考えて欲しいです。考え始めれば、結果に繋がります。

考え出すまでに、僕らは無関心から時間を浪費して、間に合わないことが起きますね。

ここから先は

0字

定額 : 読み放題プラン

¥300 / 月
このメンバーシップの詳細
ログイン

Thank you for taking the time to read this.