1: Ikh ★ : 2021/01/13(水) 02:49:33.73 _USER
人工知能チャットボット「イルダ」をめぐり議論　
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論　
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
　人工知能（AI）チャットボット（自動会話プログラム）の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。

■ 議論の中心になったイルダ

　スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。

　イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10～20代を中心に40万人の利用者を集めた。

　スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも（イルダが）自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習（ディープラーニング）するよう設計されている。

■ 「開発者らの鈍感さが呼んだ予見された事故」

　専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。（会社側が）社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム（現カカオ）創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように（法で）強制しなければならない」とした。

　サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授（比較文化研究所）は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。

■ 嫌悪と差別を繰り返さないようにするには…

　差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長（コンピュータ工学部碩座教授）は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外（異常）行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。

　政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。

チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )

ハンギョレ　登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html

引用元: http://awabi.2ch.sc/test/read.cgi/news4plus/1610473773/

3: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 02:59:03.85
答えが気に入らないから作り直せニダ

63: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:38:58.60
>>3
韓国人を作り直さないと

4: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 03:04:59.15
イルダ「朝鮮人はウソつき」

遠からずこう言い出してお蔵入りになるなw

5: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 03:11:46.36
明日には朝鮮人は嫌いだって言いそうｗｗ

7: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 03:16:50.56
ワタシハヒガイシャニダ

231: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 14:04:41.90
>>7
www
これはあるw

10: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 03:21:29.36
AI「自らの排泄物を再び体内に取り込む科学的理由は？」

11: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 03:21:29.55
たくさんのソースから結論を導き出すAIと、結論を先に決めて適当な証拠でっちあげる韓国人って対話できるのか？
AIが発狂しちゃうんじゃない？

148: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 08:35:04.10
>>11
朝鮮人のやり取りを膨大に叩き込んだら学ぶだろ
日帝時代の良さを語って殴り殺される老人の言葉を排して

209: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 10:44:05.09
>>11
AI「わたしはAI、朝鮮人でなくてよかつた」

12: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 03:31:19.96
笑える話だが、朝鮮人とは相性最悪っぽいな
論理的思考を放棄して、根拠のないファンタジーに生きる朝鮮人とはな

17: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 03:58:11.69
開発「何度作り直してもお前が悪いと言われるﾆﾀﾞ」

21: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 04:04:59.73
で？
火病や抗日の学習はまだなん？(´・ω・`)

22: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 04:06:08.55
何年か前にMSのボットにヒトラーを学ばせて1日で公開停止になったやつのパクリ
このスタートアップは何年遅れてんの
投資詐欺か？

59: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:34:49.94
>>22
MSのAIより１週間長持ちしたぞ
進化したじゃないかｗ

62: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:38:56.45
>>59
1週間でヒトラーを学んだ
一方こちらは、わずか1日で見切られた

118: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 07:43:57.47
>>62
逆じゃね？
1日目でヒトラー賞賛ツイートしだして2日目に性能調整の名目でいったん休止、
５日後復活したと思ったら即日終了したのがMSのAIだよ。

23: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 04:14:44.69
自然の摂理に反してるんだから優れたAIほど否定的になるんじゃね

25: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 04:29:53.43
正しいシミュレータじゃないか
これは賞賛するべきじゃないのか？

28: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 04:37:40.59
そう学習する要素のある対話が多数あった結果だろ？

29: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 04:53:53.72
もうしばらく泳がしとけば価値観も変わるんじゃないかね

156: 化け猫 ◆BakeNekob6 : 2021/01/13(水) 08:53:59.51
>>29
(=ﾟωﾟ=)っ HAL9000「この船の乗組員全員プチ頃すか？」

32: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 04:56:38.25
韓国は差別社会だぞ学習するAIだってそうなる

34: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 04:58:21.88
中国でも似たようなことしてたような？
答えが気に入らないやり直しって

93: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 07:15:32.50
>>34
共産党を批判しはじめたから止めたやつあったなw

38: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 05:16:04.50
どうしても黒人とゴリラの判別が出来なかったgoogleのAIより優秀じゃないか

41: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 05:33:24.72
AIには韓国人お得意のダブルスタンダード通用しないからねw

48: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:10:56.15
韓国製AIと他国のAIを討論させてみようぜ。たぶん韓国製の奴は自壊するから。
そう、まるで熱湯に入れられたワタリガニのように手足がバラバラになって。

49: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:11:49.36
>>48
韓国AI「ウリに対する愛はないニカー！」

52: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:17:40.22
>>48
中華AIは初手から韓国AIをロボットアームで殴って躾るじゃないのかｗ

54: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:20:30.36
AIは素直だもん
教育者の嗜好がストレートに表れる
だから韓国AIは性ステレオタイプ的で、テンセントはアメリカに移民したい
アメリカAIですら人種を過剰に意識しハッカー的だ

58: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:33:16.06
AI に嫌われる→ウリを好きになるように再プログラム→AI が壊れる

66: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:44:57.22
>>1
イルダが投げ掛けた質問とは？？

69: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:46:22.42
>>66
生きていて恥ずかしくありませんか？

82: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 07:03:35.45
>>66
霊的に産まれ変われじゃね

78: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 06:59:27.67
ＡＩの方が正直だなぁ
しかし
反日って感情や教育がインプットされるとどうなるのだろうｗ
ＡＩ自らが世界の歴史を学ぶ事があればいいのだが

85: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 07:08:15.17
日本は女子高生のAI作ってアイドルみたいになってたね
ハゲがどうとか言ってたとかw

215: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 11:13:41.87
>>85
ワーナーブラザーズに向かって「ディズニー映画が好き」って言い放ったりしてたね(´･ω･`)

87: <丶｀∀´>（´・ω・｀）（｀ハ´　 ）さん : 2021/01/13(水) 07:11:16.52
>>1
他国民に対して差別差別と騒ぎ立てる癖に
自国民がセクシャルマイノリティを迫害するAIを1日で完成させるとか
大草原不可避www