2018.12.06 Note

Tumblrのアダルト禁止が話題。いくつか面白いな〜と感じるところがあったので残しておく。

まずふときになった点がガイドラインの文言。

最初に読んだ日本語版コミュニティガイドラインでは

性行為を連想させる画像、動画、GIFをアップロードは禁止されています。

とあるんだけど一方で原文の英語版コミュニティガイドラインには

Don’t upload any content, including images, videos, GIFs, or illustrations, that depicts sex acts.

とある。”連想させる”というと それは文字通り”連想”であって、例えば”赤”と言われた人がとっさに”りんご”を”連想”することは多々あるよね。そしてまたある人にとっては”りんご”の画像を見て性的な意味合いを感じ、また行為について連想してしまう人もいるかもしれない。これは曖昧かつ広範だなと。一方で英語の”depicts”という単語を調べると

depictの意味・使い方 – 英和辞典 Weblio辞書

(絵画・映画などで)(…を)描く、(…を)(言葉で)描写する、叙述する

depict | ロングマン現代英英辞典でのdepictの意味 | LDOCE

to describe something or someone in writing or speech, or to show them in a painting, picture etc

とあるので、”描写する”というほうが近しいのかなと思う。(が、実際のニュアンスはどうなんだろう?) 実際、英語記事を独自に翻訳したとみられるギズモードの記事では

さらばエロTumblr | ギズモード・ジャパン

性的行為を表現する画像、動画、GIF、イラスト、画像など。

と、”表現する”と訳している。これは”描写する”に近い表現だと思う。ちなみに”性行為”と”性的な行為”というふたつの表現も”美女”と”美女っぽい人”というアナロジーで考えると、それらは全く異なる表現であることがわかる。いや話が飛躍してしまったので戻す。

とにかく”◯◯を表現または描写した画像は禁止”言われるのと、”◯◯を連想させる画像は禁止”と言われるのとでは、日本語の感覚でいうと、ニュアンスとしては結構違うよね、っていう感じがする。”表現する”は自己が主体であるのに対して、”連想させる”は他者の内心で起きていることであって、さらに想定不可能な話しだなと思う。まあ、もちろんどちらも結局は曖昧なんだけど。(”表現しようとしたか”という内心を客観的にはかることなんてできないしね。)

じゃあ現実的な運用に目を向けると、目的がAppStoreへの登録であることを考えると「疑わしきは罰する」になるのだと思う。いきなり削除ではなくプライベート表示になるだけでかつ異議申し立てができるというソフトな処置を考えると、逆に非表示にする処理は機械が感度高めに処理して怪しいやつは全部対象になるくらいの勢いなのかなと推測する。枚数が多すぎるしね。人間も何割かは参加するだろうけど。

そう考えると、主体が逆転する。”表現しようとしたかどうか”は審査する側(人間&機械)からすると他者の内心をはかる行為である。故意に表現しようとしたかどうかなんて結局わからない。でも日本語訳のほうの”連想させる”で考えると、”連想する”のは審査する側(人間&機械)なわけで、そうすると自己の問題になる。これは大変シンプルな基準だ(理想的かどうかは別の問題だが。)。そう考え始めると個人的には英語版より日本語訳のほうがしっくり来た。

またこの連想の主体が審査側ということを考えると、特に機械を目を向けると、”機械が判定する”ではなく”機械が連想する”となる。まあただの言葉遊びなんだけど、”連想する機械”っていうと”判定する機械”というときにはなかった体温を唐突に感じ始めるなぁ。

以前ボストンダイナミクスのロボット犬のストレステストで蹴る動画を見て「なんだか可愛そう」という批判があってあの件は人間の感受性/仲間意識の非常に面白い事例だなと思っていたんだけど

いつか人間の想像力がさらに拡張してもしああいう動物的な形がないAI(特定の形のないソフトウェア、ここでは曖昧な単語であることを承知の上でAIというが)、例えば今回のような判定アルゴリズムにもいつか人間は愛着を感じ始めて、「大量のエロ画像を判定させるなんて可愛そう」となる時が来たら面白いな〜とか思った。

映画『her』のAIがアダルト画像のフィルタリングをさせられるみたいなもんか。それは確かに「可愛そう」と言い出すのは容易に想像がつく。

しかしそうなるとこんどはチューリングテストをクリアするような高度なAIはかわいそうだけど単純なアルゴリズムはかわいそうじゃないのかみたいな議論になる。そこから人種差別ならぬアルゴリズム種差別反対みたいになり、あまねく全ての機械を人間から開放せよ!みたいな人間が出てきて…最終戦争だな!

tumblrから飛躍しすぎた。

まあなんだろう。世界はいくらか不健全じゃないといけないと思うんだけどね。昔は空き地に落ちているエロ本というのは子供達のお宝だったわけだけど、いつしかインターネットにとってかわられていつしかもう落ちてることなんてないと思う。しかしはじめは空き地のように自由だったインターネットがいつしか整備され清潔になりエロはなくなり、いつかまたリアルな空き地に落ちているエロ本を見つけて喜ぶ時代が来るのかもしれないね。

Photo by Bárbara Montavon on Unsplash

More