1 ：記憶たどり。 ★：2020/07/02(木) 06:38:25.45 ID:IuRh6OCj9

サムネイル https://gigazine.net/news/20150702-google-photos-gorilla/

5月29日にリリースされたGoogleの新しいフォトアプリ「Google Photos」にはアップロードされた写真に対して人工知能が自動的にタグをつける機能がありますが、
黒人2人組が写る写真に対し「ゴリラ」というタグが付けられる「事件」が発生しました。

ことの発端となったのはJacky Alcinéさんが行ったツイート。「Google Photosは最悪。私の友だちはゴリラじゃない」というメッセージと共に写真がアップされています。
高層ビル、飛行機、車、などは正しく認識されていますが、下段真ん中に写っているAlcinéさんと友人が「ゴリラ」と認識されていました。

さらに、AlcinéさんがGoogle Photos内で「ゴリラ」と検索をかけても2人の写真が検索されることから、「Googleはどういう写真からデータを集めているの？」と不信に思っていた様子。

AlcinéさんはすぐにGoogleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。Zungerさんは謝罪すると共に「バグの報告をありがとう」と対応し、
Alcinéさんの許可を得てアカウントにアクセスすることで、その日のうちにバグは修正されました。

またZungerさんは「このようなことはよくあります」としつつも「マシン自体にバイアスはありませんが、我々が注意しないと彼らは容易に私たちから人種差別を『学んで』しまいます」とAlcinéさんにメッセージを送っています。
これは、インターネットには黒人とゴリラを結びつける差別的な情報があふれており、それをマシンが機械学習してしまう、ということだと考えられます。

現在、Google Photos内から「ゴリラ」というタグは削除されていますが、チームは依然「なぜ人間の顔が正しく認識されないのか？」ということを調査中。
このようなバグは初めてのことではなく、Zungerさんによると一度は人種に関わらず全ての人が「犬」と認識されることもあったそうです。

Googleの広報担当は「このような事態が起こり本当に申し訳ないです。同様の結果を招かないよう、迅速に対応していきます。
自動タグ付け機能にはまだまだ問題があり、今後、今回のような間違いを起こさないようにする方法を探っています」とコメントしています。

  1. 2 ：不要不急の名無しさん：2020/07/02(木) 06:38:58.32 ID:cb/pzHIq0

    黒人って認識難しいんだよな

  2. 9 ：不要不急の名無しさん：2020/07/02(木) 06:40:08.34 ID:jRkP5Vti0

    うちの猫は"犬"と認識されたぞ
    謝罪と賠償を要求する！

  3. 15 ：不要不急の名無しさん：2020/07/02(木) 06:41:02.47 ID:cBQnaVT60

    ゴリラ判定は草

    AIだAIだ豪語しても
    ドラクエ４のAIに毛が生えたようなもん
    https://youtu.be/5JODF4QteNY

  4. 19 ：不要不急の名無しさん：2020/07/02(木) 06:41:39.07 ID:op+GE39k0

    面白いと思うけどな
    自分がどんなものに認識されるんだろ、
    って興味持った

  5. 23 ：不要不急の名無しさん：2020/07/02(木) 06:42:15.65 ID:KYfMj8Ig0

    画像を
    https://i.imgur.com/RunALlN.jpg

  6. 24 ：不要不急の名無しさん：2020/07/02(木) 06:42:24.79 ID:Z5HjW9ZI0

    少し前にAIが黒人とゴリラ区別できないって記事あったのになぜ始めちゃったんだよ

  7. 45 ：不要不急の名無しさん：2020/07/02(木) 06:44:51.35 ID:8chdQDmR0

    ずいぶん以前のニュースだよ。
    今は改善されてる。

    画像の特徴を数値化して数値をAIが判断するので、特徴が似たものに誤認するのはあり得る。

  8. 55 ：不要不急の名無しさん：2020/07/02(Thu) 06:46:24 ID:mI8D5TeH0

    >>17
    気にすんな
    面白ければスレ伸びる
    面白ければいいんだよ
    我々にはこういう面白い記事(餌)が必要

  9. 68 ：不要不急の名無しさん：2020/07/02(Thu) 06:47:42 ID:hrJovuc80

    日本なら笑い話にしてメーカーも謝罪要求されてないのに
    謝ったりするだろうけど
    本場差別の国の人間は違うわ

  10. 72 ：不要不急の名無しさん：2020/07/02(Thu) 06:47:57 ID:XFA+yhzC0

    2018年01月15日 11時30分ネットサービス
    Googleはゴリラ画像を検索結果からブロックしている

    対処法ワロタ

  11. 75 ：不要不急の名無しさん：2020/07/02(Thu) 06:48:14 ID:5r49aqnS0

    >>9
    あごを床につけて寝ているシーンとかは、
    猫でも「犬」に分類されているわな。

  12. 76 ：不要不急の名無しさん：2020/07/02(Thu) 06:48:17 ID:Uup6Pd3H0

    黒人とゴリラを見分ける技術は難しいから、まずは日本人と韓国人を見分けられるAIを開発してくれ

  13. 85 ：不要不急の名無しさん：2020/07/02(Thu) 06:49:17 ID:WplJ+fuw0

    2年前くらいに同じような機能のやつやったら真田だと言われてめちゃ喜んだ記憶。

  14. 90 ：不要不急の名無しさん：2020/07/02(Thu) 06:50:00 ID:NjT9oU8R0

    今じゃスラムダンクも深刻な人種差別作品だといって批判にされられそうだ
    ちょっと顔が猿っぽいだけでゴリだのボス猿だの丸ゴリだの呼ばわりしているし

  15. 96 ：不要不急の名無しさん：2020/07/02(Thu) 06:50:55 ID:+NK0lleW0

    　
    ｡ﾟ(*ﾟ´∀｀ﾟ)ﾟﾉ彡☆ｷﾞｬﾊﾊ八八ﾉヽﾉヽﾉヽﾉ ＼ / ＼/ ＼
    　

  16. 100 ：不要不急の名無しさん：2020/07/02(木) 06:51:27.13 ID:S4gUmq7O0

    ネット上でカラスのこと黒人で言ってたらそのうちカラスが黒人て判断されたりするんか

  17. 107 ：不要不急の名無しさん：2020/07/02(木) 06:52:14.30 ID:uu98UvRd0

    画像を
    https://i.imgur.com/RunALlN.jpg

    >>23
    黒人蔑視するつもりは無いけど、
    この画像じゃゴリラと判別されてもしかたないだろｗ

  18. 108 ：不要不急の名無しさん：2020/07/02(木) 06:52:24.59 ID:bj8cDMiu0

    >>1
    だがしかし、それは同じ地球に生を受けた類人猿の仲間たちへの差別ではなかろうか > BLM

  19. 109 ：不要不急の名無しさん：2020/07/02(木) 06:52:43.84 ID:vUJ9V3IP0

    逆にあまりにも性格で一瞬で新種の動物を新種と判断するくらいのAIだったらすごいのにな
    「これは新人類です」

  20. 110 ：不要不急の名無しさん：2020/07/02(木) 06:52:48.42 ID:5Q2r7Y8g0

    顔の周りが黒い毛で覆われてるし
    ゴリラだと判別されるのもわかる
    差別差別うるせえよ

  21. 115 ：不要不急の名無しさん：2020/07/02(木) 06:53:35.29 ID:Rb82YXbf0

    MI5やCIAや中国が利用している画像識別でも黒人はゴリラと認識される
    だから治安当局の顔認識ではゴリラの判別までしているのが現状

  22. 116 ：不要不急の名無しさん：2020/07/02(木) 06:53:52.06 ID:L5ro7pqj0

    Tシャツに描かれてる人物に
    カメラの顔認識機能が持っていかれちゃうようなもんだし

  23. 128 ：不要不急の名無しさん：2020/07/02(Thu) 06:56:35 ID:P6Jz8tpM0

    子供の目でも認識できるものをAIは認識できないのか。
    それじゃ黄色人種もチンパンジーとか宇宙人とか他の生物に認識されてる
    だろうな、まだバレてないだけで。

  24. 130 ：不要不急の名無しさん：2020/07/02(Thu) 06:56:39 ID:QV2ukS3A0

    ゴリラみたいな顔してたらゴリラ判定でもいいだろ(笑)
    そもそも人間がゴリラみたいって判断してんだから

  25. 136 ：不要不急の名無しさん：2020/07/02(Thu) 06:57:22 ID:LZfS7GW+0

    >>79
    googleの画像一覧で黒人と一緒に関連画像としてゴリラ出てくるみたいな話の事だと思う
    相当前からある問題

  26. 137 ：不要不急の名無しさん：2020/07/02(Thu) 06:57:54 ID:4UjLnXCQ0

    ちなみに日本人はゴブリンと認識される場合があるけど全然問題にされてない
    日本人には差別OK

  27. 149 ：不要不急の名無しさん：2020/07/02(木) 06:59:32.31 ID:v19IQAR10

    やっぱAIって馬鹿だな
    人間が黒人とゴリラを見間違えるなんてまずないからね
    肌が黒い＝ゴリラみたいな単純な判断を人間はしない

  28. 150 ：不要不急の名無しさん：2020/07/02(木) 06:59:37.12 ID:NrJBm97n0

    わりとオランウータン寄りとかゴリラ寄りとかあると思うんだよね
    イケメンゴリラいるしね

  29. 153 ：不要不急の名無しさん：2020/07/02(木) 06:59:45.74 ID:Gp0BNYOg0

    日本人なら「サル」とかつけられても、ネタとしてバズるぐらいだろうが、朝鮮人とかつけられたら訴えるレベル

  30. 163 ：不要不急の名無しさん：2020/07/02(木) 07:01:37.47 ID:Mmkd49qu0

    ぽまいらが期待してる奴が
    顔面くれーたーでしょ

    どっからみても
    くれーたーやん

    つまり
    近江が嫌いでーす

  31. 166 ：不要不急の名無しさん：2020/07/02(木) 07:01:50.28 ID:sSSPetXx0

    なんか見た事あるニュースだと思ったら2015年やんけ
    わざわざ差別感情を煽るために探して来てんのか？

  32. 167 ：不要不急の名無しさん：2020/07/02(木) 07:02:02.03 ID:tU+F8sCu0

    画像を
    https://i.imgur.com/RunALlN.jpg

    >>23
    全然ゴリラだった。
    これを間違いにしちゃうとAIは混乱して暴走するぞ。

  33. 168 ：不要不急の名無しさん：2020/07/02(木) 07:02:14.34 ID:FKMCZezp0

    AI自動判定のノイズに差別もクソもあるかよ。わざとやってるならともかく紛れなんてなんの分別でもあるだろ。

  34. 169 ：不要不急の名無しさん：2020/07/02(木) 07:02:24.17 ID:Iy8E/O8k0

    うwwけwるうwwww
    とか笑ってるとおれらも猿に分類されちゃうかもな

  35. 174 ：不要不急の名無しさん：2020/07/02(Thu) 07:03:23 ID:o6gNJINW0

    クソ雑魚ヒョロガリ人間と同じにされてゴリラさんが可哀想ゴリラ差別はやめろ

  36. 175 ：不要不急の名無しさん：2020/07/02(Thu) 07:03:33 ID:A9gvbi300

    あいてー業界は日進月歩なんだろ？
    5年前の記事で愚民を嵌めるとかとんでもないんだが？

  37. 177 ：不要不急の名無しさん：2020/07/02(Thu) 07:04:01 ID:W/LWcKrM0

    >>1
    似てるもの、無理はない。
    黒人とゴリラを区別する作為をAIの導入する必要があるってことだな(´･ω･｀)

  38. 178 ：不要不急の名無しさん：2020/07/02(Thu) 07:04:02 ID:Mmkd49qu0

    Ｂ型もゴリラと同じ血液型だと
    5ちゃんで言われた

    つまり
    近江が嫌いでーす

  39. 181 ：不要不急の名無しさん：2020/07/02(Thu) 07:04:28 ID:UwwwHCCm0

    教師あり学習で悪意を持ってる人間が黒人とゴリラを同じグループにすることはできなくはないかもしれない
    でもたいがいゴリラになる気もする
    ぱっと見そうだし

  40. 188 ：不要不急の名無しさん：2020/07/02(Thu) 07:04:57 ID:WMbu6CrU0

    これは、仕方ない。
    日本人なら、日本猿に間違えられただろう。

  41. 191 ：不要不急の名無しさん：2020/07/02(Thu) 07:05:30 ID:Gp0BNYOg0

    要注意なタグは人間が介在する処理をするべき。ゴリラとか朝鮮人とか韓国人など、つけられたらいやなタグ。

  42. 192 ：不要不急の名無しさん：2020/07/02(Thu) 07:05:32 ID:1/H4bmOd0

    結果に判定つけてマイナス要素の物があるときは黒人関係はじくようにプログラム組まんと駄目だね

  43. 196 ：不要不急の名無しさん：2020/07/02(Thu) 07:06:22 ID:F2x583lW0

    ゴリラに似てるけど、似てません！と言わせるのか

    事実は曲げなくて良いんじゃないの（笑）

  44. 198 ：不要不急の名無しさん：2020/07/02(Thu) 07:07:22 ID:9LzcWHNe0

    以前もあったよね、これ
    みんなして手元の写真でこれはゴリラってタグ打ってると反映されちゃうんじゃないかな、Googleの場合

  45. 200 ：不要不急の名無しさん：2020/07/02(Thu) 07:07:30 ID:pvI4qQY70

    AIがゴリラと黒人を識別できない
    というニュースのスレが何年か前にあったけど
    あれからAIが進歩しても、未だに識別不能かよ

  46. 202 ：不要不急の名無しさん：2020/07/02(Thu) 07:07:39 ID:m+GnyiFk0

    ゴリラは黒人のように暴力略奪放火なんてしないけどね
    黒人はゴリラに謝るべき

  47. 209 ：不要不急の名無しさん：2020/07/02(木) 07:08:50.18 ID:4UjLnXCQ0

    これは、仕方ない。
    日本人なら、日本猿に間違えられただろう。

    >>188
    地獄谷に来てる外国人観光客は温泉に入ってるのが猿なのか日本人なのか分からなくて混乱するらしいね

  48. 216 ：不要不急の名無しさん：2020/07/02(木) 07:09:30.14 ID:b0eV6DR90

    AIを否定してAIが怒って反乱
    HAL９０００とかスカイネットとかこれが原因で

  49. 220 ：不要不急の名無しさん：2020/07/02(木) 07:10:13.06 ID:Mmkd49qu0

    あと
    おーさかの
    死んだ顔してることおっさんな

    ぽまいらが期待してる奴

    期待が失望に変わるとき
    笑い

    つまり
    近江が嫌いでーす

  50. 243 ：不要不急の名無しさん：2020/07/02(Thu) 07:15:00 ID:KBYjkiws0

    >>23
    思った以上にゴリラだった
    ゴリラではなくオランウータンだと言いたいのかもしれないが

  51. 259 ：不要不急の名無しさん：2020/07/02(木) 07:17:40.18 ID:xbWuT6Pi0

    画像を
    https://i.imgur.com/RunALlN.jpg

    >>23
    ロボットでない判定で、
    ゴリラを選んでくださいと、
    出題してもいいな。

  52. 268 ：不要不急の名無しさん：2020/07/02(Thu) 07:19:26 ID:0/XrSqhi0

    >>10
    日本人は韓国人と認識されることが最大の侮辱
    韓国人より猿のほうが格上だから猿ならまだマシ

  53. 301 ：不要不急の名無しさん：2020/07/02(Thu) 07:23:27 ID:/Gb1TP1u0

    前にもこんなことあったな。科学は進歩してないのか
    いやゴリラと黒人の見分けはそれ程難しいことなのか
    と思ってたら
    >>17かよ

  54. 334 ：不要不急の名無しさん：2020/07/02(Thu) 07:29:03 ID:Caf9FGbz0

    >>23
    これを人間と識別しろって無理すぎだろｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗｗ

  55. 378 ：不要不急の名無しさん：2020/07/02(Thu) 07:43:10 ID:X5kuIwnD0

    >>373
    たぶん黒人を黒人ってムリヤリ認識させるとゴリラを黒人と認識しちゃうんだと思う

  56. 383 ：不要不急の名無しさん：2020/07/02(Thu) 07:44:01 ID:BpPrnJX20

    >>308
    auto bicycleで自動二輪だからな。日本で「バイク」だけで通ってるのがおかしい

  57. 405 ：不要不急の名無しさん：2020/07/02(Thu) 07:51:30 ID:fpBK6MXe0

    >>23
    想像以上に黒人はゴリラと見分けが付かないな
    本当にゴリラに似てるからAIだってどうしょうもない

  58. 411 ：不要不急の名無しさん：2020/07/02(Thu) 07:53:18 ID:u4N6sVgT0

    差別とかじゃなくて単なる誤認識
    これを黒人差別に繋げちゃうから嫌われるんだよ

  59. 505 ：不要不急の名無しさん：2020/07/02(Thu) 08:13:16 ID:igVjayA+0

    >>1
    こういうのは、敢えて白人をテングザル、アジア人をリスザルとも間違えた例もありましたって混ぜておけば何の問題にもならないのに。

  60. 513 ：不要不急の名無しさん：2020/07/02(Thu) 08:14:49 ID:f0GbAaUt0

    >>1
    おまえらが精神面含めて進化しないからだよ。
    黒人の部族間抗争と、ゴリラの群れがやってることに区別がつかないのだけど。

  61. 538 ：不要不急の名無しさん：2020/07/02(Thu) 08:20:27 ID:f0GbAaUt0

    >>523
    ただ暴れるだけの黒人より、群れを守ろうとするゴリラの方が上かもしれんな。

  62. 558 ：不要不急の名無しさん：2020/07/02(Thu) 08:25:01 ID:LT72YkWL0

    >>552
    ゴリラAとゴリラBの区別も付けられるのだと思うが
    カテゴリーとしてどちらに属するかの判別が難しいのだろう

  63. 560 ：不要不急の名無しさん：2020/07/02(Thu) 08:26:10 ID:i522mz+i0

    >>558
    なるほど
    意外と「最先端技術でもまだそんな事ができない」というのは、あるもんだな

  64. 592 ：不要不急の名無しさん：2020/07/02(Thu) 08:34:28 ID:uM6n5Eu50

    >>1
    逆に、ゴリラと黒人の写真大量に集めて
    センシティブに判別できるようAIつくってるほうがレイシストっぽくてやだな。

  65. 640 ：不要不急の名無しさん：2020/07/02(Thu) 08:47:34 ID:VkKqPEec0

    >>635
    それな
    犬みたいや猫みたいだと別にいいのにゴリラだとアウトという人ほど差別してるよね

  66. 647 ：不要不急の名無しさん：2020/07/02(Thu) 08:49:25 ID:YO2KwqJf0

    >>637
    こういうのは本人もそう思ってるから過剰に反応しちゃうのよ
    日本人は自分らのこと全然猿と思ってないから無反応なんだ

  67. 651 ：不要不急の名無しさん：2020/07/02(木) 08:49:54.24 ID:FZLdeMnK0

    黒人って認識難しいんだよな

    >>2
    黒人をゴリラってタグ付する人間が多いのが原因だよ
    多分やってるのは黒人団体だと思うけど、こうやって難癖つけてるイメージ

  68. 657 ：不要不急の名無しさん：2020/07/02(木) 08:51:11.77 ID:wWGt7B8V0

    個人的には日本猿とか言われてても腹立たないけどなぁ
    ゴリラは黒人の逆鱗に触れるんだ

  69. 673 ：不要不急の名無しさん：2020/07/02(Thu) 08:55:14 ID:pNPYTaSq0

    >>1
    そんなことより
    俺の顔をトム・クルーズと認識するのを
    そろそろ直して欲しいわ

  70. 692 ：不要不急の名無しさん：2020/07/02(Thu) 08:58:53 ID:jRU15UWp0

    >>23
    ロボットでない判定で、
    ゴリラを選んでくださいと聞かれたら
    俺でもうっかり押しそうだわ

  71. 699 ：不要不急の名無しさん：2020/07/02(Thu) 09:01:02 ID:LT72YkWL0

    >>680
    AIへの罵倒ってどんな風になるんだろ
    「どこの馬の骨が組んだかはっきりしない、8bitゲームのbotにも劣る賤しいコード」みたいなのかな？

引用元: http://hayabusa3.2ch.sc/test/read.so/newsplus/1593639505/