Tumblr、AI誤判定でどう見ても性的要素のない画像にまで違反警告が届く 「かわいい動物のイラスト」「脱ぎ捨てたブーツの写真」など
既に訂正メールも届き始めているようです。
Tumblrの新しいガイドラインが12月4日に発表され、成人向けコンテンツが禁止になることが明らかになりました(関連記事)。Tumblrは早速今後禁止になる画像に対し警告を送り初めています。
ところが、なんら性的な要素を含まない画像にまで違反コンテンツであるとの警告が来たとして、Tumblrユーザーの間で話題に。SNSではAIが何を違反コンテンツと判断するかを探る大喜利が盛り上がる事態に発展しています。
新しいガイドラインで成人向けコンテンツとして例示されているのは「人間の性器や乳首を露出した女性の画像、動画、GIF」「写真のようにリアルな描写された人間にそっくりなものや見間違うレベルのリアルな画像」「性行為を連想させる画像、動画、GIF」といったもの。
ところがユーザーからは「ドラゴンや動物のイラスト」「ゲーム内の風景の画像」「脱ぎ捨てたブーツの写真」といった全く性的でない画像にも警告が届いている様子。また、ガイドラインを読む限りでは男性の乳首はセーフのはずなのに、お相撲さんの写真や、水浴びをするプーチン大統領の写真にまで警告が届いていることが報告されています。
コンテンツの確認は基本的にAIと、それを管理する運用チームによって行われています。Tumblrは「間違いがあることが予想されるが、コミュニティー内で幅広い表現ができるよう最善を尽くす」としていました。スタッフブログでは、今後は違反をチェックするスタッフの増員や、機械学習の精度を向上させていくとの説明も。
12月5日になり、誤って違反コンテンツ認定されてしまったユーザーに対しては訂正メールも届き始めているようです。誤って違反通知が来てしまった場合は、一度申し立てをしてみるのが良さそうです。
関連記事
- Tumblr、12月17日から成人向けコンテンツ禁止に
対象となるコンテンツの投稿者には事前に連絡があるとのこと。 - Tumblr、iOSアプリが配信停止 理由は児童ポルノへの対応
Tumblrが理由を明かしました。 - AppBankNetwork、成人向け広告の永久停止を発表
現状は「一時停止」だったが、今後も再開しない方針を明らかに。 - ギリギリ描写で話題の漫画「無邪気の楽園」がAmazonから突如消滅 ギリギリアウトだったもよう
「セウト」は今後通じなくなる? - フレッツ光のオプション、断ったはずが「仮契約」されたとTwitterで報告 NTT東に聞いた
断ったのに後日「ご契約ありがとうございます」と電話が……。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.
-
「思わず笑った」 ハードオフに4万4000円で売られていた“まさかのフィギュア”に仰天 「玄関に置いときたい」
-
「なぜ今になって……」 TikTokで“15年前”の曲が大流行 すでに解散の人気バンド…… ファン驚き 「戸惑いが隠せない」
-
「現場を知らなすぎ」 政府広報が投稿「令和の給食」写真に批判続出…… 識者が指摘した“学校給食の問題点”
-
ソファに座る息子を見ると……→“まさかのもの”を食べる姿が585万表示 ママ絶叫の光景に「あああ!!」「バイタリティがすごい」
-
本田真凜、ショートパンツのスウェット姿に注目の声 「かわいいー!」「スタイルよすぎる」
-
伝説のスポーツカーが朽ちている……!? ある田舎の風景を描いた精巧なジオラマに「リアルすぎる」「ホンモノかと」驚きの声
-
「ウンコ食い」という毒魚に刺され“骨に激痛”→その40時間後…… ゾッとする経過報告に「えげつない」「何かの病気になりそう」
-
車両置き場から何かの鳴き声→探しても見つからずフォークリフトの中をのぞいたら…… まさかの正体に「困ったもんだ(笑)」「ここはマズイ」
-
側溝の泥に埋もれて瀕死の子猫→救助されて1年後…… 涙あふれるビフォーアフターに「良かった……良かったです」「奇跡ってある」と182万表示
-
『HUNTER×HUNTER』の冨樫義博がXで怒り 立て続く“誤配”で「三度目です」「次はもう知らん」
- JR東のネット銀行「JRE BANK」、申し込み殺到でメール遅延、初日分の申込受付を終了
- 幼稚園の「名札」を社会人が大量購入→その理由は…… 斜め上のキュートな活用術に「超ナイスアイデア」「こういうの大好きだ!」
- 「ずっと小児」 グランスタ東京の“母の日広告”に賛否…… 運営会社が撤去「違和感覚える方もいた」
- 「今までなんで使わなかったのか」 ワークマンの「アルミ帽子」が暑さ対策に最強だった 「めっちゃ涼しー」
- 渋谷駅「どん兵衛」専門店が閉店 店内で見つかった書き置きに「店側の本音が漏れている」とTwitter民なごむ
- 「車庫にランボルギーニがいて駐車できない」→見に行くと…… 「電車の中で絶対見ないほうがいい」衝撃の光景が195万表示!
- JR東日本、ネットバンクサービス「JRE BANK」を発表 JREポイントがたまるなどの特典も
- 「ごめん母さん。塩20キロ届く」LINEで謝罪 → お母さんからの返信が「最高」「まじで好きw」と話題に
- 「900円は安過ぎる」 喫茶店でプリンアラモード購入→見本と違いすぎる“激盛り”に仰天 「逆写真詐欺」
- 森の中で発見された“謎の物体”が618万件表示 「何これ!」「暗号?呪物?」集まる推測や知見と“驚きの事実”
- 庭に植えて大後悔した“悪魔の木”を自称ポンコツ主婦が伐採したら…… 恐怖のラストに「ゾッとした」「驚愕すぎて笑っちゃいましたw」
- 小1娘、ペンギンの卵を楽しみに育ててみたら…… 期待を裏切る生き物の爆誕に「声出して笑ってしまったw」「反応がめちゃくちゃ可愛い」
- 生後2カ月の赤ちゃんにママが話しかけると、次の瞬間かわいすぎる反応が! 「天使」「なんか泣けてきた」と癒やされた人続出
- 「歩行も困難…言動もままならず」黒沢年雄、妻・街田リーヌの病状明かす 介護施設入所も「急激に壊れていく…」
- 車検に出した軽トラの荷台に乗っていた生後3日の子猫、保護して育てた3年後…… 驚きの現在に大反響「天使が女神に」「目眩が」
- 「虎に翼」、新キャラの俳優に注目が集まる 「綺麗な人だね」「まさか日本のドラマでお目にかかれるとは!」
- 釣りに行こうとしたら、海岸に子猫が打ち上げられていて…… 保護後、予想だにしない展開に「神様降臨」「涙が止まりません」
- 身長174センチの女性アイドルに「ここは女性専用車両です!!!」 電車内で突如怒られ「声か、、、」と嘆き 「理不尽すぎる」と反響の声
- 築152年の古民家にある、ジャングル化した水路を掃除したら…… 現れた驚きの光景に「腰が抜けました」「ビックリ!」「先代の方々が」
- 「葬送のフリーレン」ユーベルのコスプレがまるで実写版 「ジト目が完璧」と27万いいねの好評