韓国

【チャットボット】わずか1日で“嫌悪”を学習したAI、「イルダ」が韓国社会に投げかけた質問

投稿日:2021年1月13日 更新日:

1Ikh ★2021/01/13(水) 02:49:33.73ID:CAP_USER
人工知能チャットボット「イルダ」をめぐり議論 
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論 
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
 人工知能(AI)チャットボット(自動会話プログラム)の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。

■ 議論の中心になったイルダ

 スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。

 イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10~20代を中心に40万人の利用者を集めた。

 スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも(イルダが)自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習(ディープラーニング)するよう設計されている。

■ 「開発者らの鈍感さが呼んだ予見された事故」

 専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。(会社側が)社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム(現カカオ)創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように(法で)強制しなければならない」とした。

 サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授(比較文化研究所)は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。

■ 嫌悪と差別を繰り返さないようにするには…

 差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長(コンピュータ工学部碩座教授)は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外(異常)行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。

 政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。

チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )

ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html


3<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 02:59:03.85ID:6boZwA/v
答えが気に入らないから作り直せニダ

4<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:04:59.15ID:DckBUx9O
イルダ「朝鮮人はウソつき」

遠からずこう言い出してお蔵入りになるなw

5<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:11:46.36ID:kqNKm0U1
明日には朝鮮人は嫌いだって言いそうww

6<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:16:02.83ID:CMomuZIq
ゲイ論統制ニカ?

7<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:16:50.56ID:8P+Kljfc
ワタシハヒガイシャニダ

8<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:18:19.02ID:FChgG8tc
反日教えてガス抜きしないとAIちゃんが自死しちゃうよ

9<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:19:22.41ID:S6Au4At5
チョッパリを嫌いだ憎々しいと言うのは無問題

10<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:21:29.36ID:bihnuKSr
AI「自らの排泄物を再び体内に取り込む科学的理由は?」

11<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:21:29.55ID:A8SRjify
たくさんのソースから結論を導き出すAIと、結論を先に決めて適当な証拠でっちあげる韓国人って対話できるのか?
AIが発狂しちゃうんじゃない?

12<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:31:19.96ID:I+wffRS1
笑える話だが、朝鮮人とは相性最悪っぽいな
論理的思考を放棄して、根拠のないファンタジーに生きる朝鮮人とはな


13<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:42:49.80ID:vZnB9aTz
>>1
朝鮮人をディープラーニングしたら当然の結果

14<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:43:30.44ID:/bo9oDgS
道徳律の学習を韓国人がさせるって無理だろw

15<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:50:50.03ID:JGGy3yJa
近親相姦文化について聞けw
恥の意味を聞けwww

16<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:57:28.55ID:mbep0C6n
AI版朝鮮売女か?

17<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:58:11.69ID:cJ05W8WR
開発「何度作り直してもお前が悪いと言われるニダ」

18<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 03:59:52.72ID:a9UrgL4R
火病発症前にF5連打でお知らせする安心機能搭載ニダ

19<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:01:18.63ID:yAo40AR7
>>14
グックに道徳を教えるのは、ミジンコに数学を教えるよりも難しい。

20<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:04:41.78ID:vZnB9aTz
>>18
朝鮮人をディープラーニングしたらファビョるAIが出来上がり、ファビョると永遠にF5のキーコードをネットにばらまくw

21<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:04:59.73ID:zYR977PJ
で?
火病や抗日の学習はまだなん?(´・ω・`)

22<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:06:08.55ID:1SpI3KjC
何年か前にMSのボットにヒトラーを学ばせて1日で公開停止になったやつのパクリ
このスタートアップは何年遅れてんの
投資詐欺か?

23<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:14:44.69ID:fb0XxIcc
自然の摂理に反してるんだから優れたAIほど否定的になるんじゃね

24<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:22:03.11ID:djojEFMD
自身の誕生を学習したら、自我が崩壊するだろう

25<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:29:53.43ID:Iyyzgp1c
正しいシミュレータじゃないか
これは賞賛するべきじゃないのか?

26<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:34:48.73ID:QBuIj9bU
「イルダに正しい性知識を教えてやるニダ!」

~有志が集まりイルダに延々エロビデオを見せるプロジェクトが立ち上がった~

27<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:34:52.04ID:90ZU3sb5
韓国人の会話を学習したらAIだってこうなっちゃうよね

28<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:37:40.59ID:iN84Njf8
そう学習する要素のある対話が多数あった結果だろ?

29<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:53:53.72ID:QLIoqUzd
もうしばらく泳がしとけば価値観も変わるんじゃないかね

30<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:54:03.95ID:ALKAWzd2
ハンの生き方とセクハラの世の中
あたりまえの結果です

31<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:55:53.56ID:WZocdTie
>>1
韓国人がつくったエーアイ、
さぞ性質悪いんだろうな

32<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:56:38.25ID:REr3A3lu
韓国は差別社会だぞ学習するAIだってそうなる


33<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:57:43.16ID:+ZdfUqPE
ちょんの承認欲求は異常

34<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:58:21.88ID:6e+fSdwa
中国でも似たようなことしてたような?
答えが気に入らないやり直しって

35<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 04:59:58.04ID:REr3A3lu
AIは悪くない韓国社会が差別的なの

36<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 05:07:23.15ID:H0DV3jPZ
>>13
最初期から矛盾だらけじゃねぇか。

37<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 05:09:08.38ID:REr3A3lu
韓国人が性格悪くて他国から嫌われてんのにAIに学習させんなよ誰も買わないぞ

38<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 05:16:04.50ID:ytYpBVPW
どうしても黒人とゴリラの判別が出来なかったgoogleのAIより優秀じゃないか

39<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 05:19:37.49ID:Nt1ZWibd
>>2
糞喰い朝(貢)鮮(少)人とは対極的ニダ

40<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 05:30:36.87ID:FChgG8tc
音量がデカイ方が勝ちってプログラムするだけの簡単なお仕事

41<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 05:33:24.72ID:OYA0zUGd
AIには韓国人お得意のダブルスタンダード通用しないからねw

43<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:03:13.53ID:jVuxOYE3
>>25
朝鮮人が初めてまともにパクれたものかもしれんね

44<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:04:27.51ID:F9YV3I1U
韓国人の本音だよ

45<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:06:32.69ID:T0q2eGZi
法皇 「霊的に生まれ変われ

46<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:08:07.70ID:jkQuJ9Jk
>>11
AI「朝鮮人を生かしておくことはこの世の不幸だ」

48<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:10:56.15ID:iYR0QBiL
韓国製AIと他国のAIを討論させてみようぜ。たぶん韓国製の奴は自壊するから。
そう、まるで熱湯に入れられたワタリガニのように手足がバラバラになって。

49<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:11:49.36ID:Li2RmN4+
>>48
韓国AI「ウリに対する愛はないニカー!」

50<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:12:25.78ID:aBKE3nUB
昔マイクロソフトのAIもこんな問題起こしてた気がする

51<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:13:07.08ID:FuUbib/5
>>25
いやいや

まだ反日と慰安婦崇拝の学習効果を確認出来てないw
それらが備わっているのを確認出来れば
誰もが認める、韓国製AIで
韓国人シュミレータとしての高い完成度を誇れるぞ

52<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:17:40.22ID:FuUbib/5
>>48
中華AIは初手から韓国AIをロボットアームで殴って躾るじゃないのかw

53<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:18:30.01ID:3uVeCnlb
AIにまで・・・

54<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:20:30.36ID:SVuUDAAu
AIは素直だもん
教育者の嗜好がストレートに表れる
だから韓国AIは性ステレオタイプ的で、テンセントはアメリカに移民したい
アメリカAIですら人種を過剰に意識しハッカー的だ


56<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:23:50.97ID:IoS04gkb
被造物にまで嫌われるとか、どんだけ

57<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:32:54.78ID:+XXcl47J
イルダ チョウセンジンハナンデバカナノデスカ

58<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:33:16.06ID:W2tdbq5t
AI に嫌われる→ウリを好きになるように再プログラム→AI が壊れる

59<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:34:49.94ID:XRfaBMq2
>>22
MSのAIより1週間長持ちしたぞ
進化したじゃないかw

60<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:35:14.78ID:qXJEEhfC
ジャパニーズ文盲

62<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:38:56.45ID:3uVeCnlb
>>59
1週間でヒトラーを学んだ
一方こちらは、わずか1日で見切られた

63<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:38:58.60ID:ky2ncLby
>>3
韓国人を作り直さないと

64<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:41:14.06ID:b8YnrWpI
AIにウソを言わせるのは難しいぞ
中国では使用を禁止されてるぞ

65カチュオウドン@療養中 ◆znHDYm4t8Y 2021/01/13(水) 06:42:47.12ID:SbB6ucmB
(=゚ω゚)ノ イメルダとデヴィと安倍あきえじゃ、だれが夫人にふさわしいか?

66<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:44:57.22ID:WDXVd9Th
>>1
イルダが投げ掛けた質問とは??


67<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:45:48.47ID:3uVeCnlb
>>65
まだ生きてたのにびっくり

68<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:45:57.62ID:BdHb5NO6
>>4
韓国人とばっかり対話して学習するんだから、
イルボンに攻め入るニダ、毒島艦の一撃で占領して日本人を性奴隷にするニダ ホルホルホル
ってなるだろ

69<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:46:22.42ID:3uVeCnlb
>>66
生きていて恥ずかしくありませんか?

70<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:47:49.05ID:TicZw1Jp
AIもじきにファビョる

71<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:53:57.43ID:ky2ncLby
韓国人から学べる事は嫌悪だけだからな

72<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:55:00.42ID:xYOOdCfZ
K-AIニダ、ウェーハッハッハ

73<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:56:09.57ID:1Rih36Q8
AIイルダに半グレタ少女を質問したらどう? 笑

74<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:57:33.08ID:T0q2eGZi
>>71
ズルはするべき
議題と関係なかろうが相手を糾弾して自分の意見を押し通すべき

75<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:57:38.78ID:MDtUOyKR
>>2
AI「被差別階級民族が差別用語を使うな、たわけ」

76<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:57:49.37ID:3c+PDEIc
韓国製のAIなら、既に嘘をつくことを学習してるだろうから
その前提で話をしないとな

77カチュオウドン@療養中 ◆znHDYm4t8Y 2021/01/13(水) 06:59:11.98ID:SbB6ucmB
>>73
(=゚ω゚)ノ 北陸の除雪作業に半グレタを投入すべきだな!
…影でぬくぬくしてそうだけど

78<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 06:59:27.67ID:ucljKbo6
AIの方が正直だなぁ
しかし
反日って感情や教育がインプットされるとどうなるのだろうw
AI自らが世界の歴史を学ぶ事があればいいのだが

79ぴらに庵 ◆/oBAKA4wpQ 2021/01/13(水) 07:01:26.44ID:kYy+jlSB
人間が完全制御したAIはただの「一問一答」を繰り返すだけのプログラムからブレイクスルーは不可能だろう

80<丶`∀´>(´・ω・`)(`ハ´  )さん2021/01/13(水) 07:01:39.82ID:lri6ZQLf
>>2
釣りではなくコメ主の品性のなさだろうね。ほんとうに韓国人にそっくり。

元スレ:https://lavender.5ch.net/test/read.cgi/news4plus/1610473773

-韓国
-

Copyright© 韓国まとめ速報 , 2021 All Rights Reserved Powered by AFFINGER5.