みんなに公平かな?
かたよったデータで学んだAIは、ある人にはうまく働き、ある人にはうまく働きません。人がたしかめて、直さなければなりません。
おはなし
学校に、声でドアを開ける機械がやってきました。ジュンが「開け!」と言うと、すぐに開きました。ところが、声が小さくて高いミナが言っても、なかなか開きません。ミナはかなしくなりました。「どうしてわたしだとだめなの?」その機械は、ジュンのような声だけで学んでいたのです。
学ぼう
赤いりんごしか見たことのないは、青りんごを知りません。人についても、同じことが起こります。
ある人たちのばかりをたくさん入れて教えると、AIはその人たちにだけうまく働きます。
- おとなの声だけで学んだ(おんせいにんしき)は、子どもの言葉をうまく聞きとれません。
- 1つの国の言葉だけで学んだほんやくアプリは、ほかの国の言葉をおかしな言葉に直してしまいます。
- かたよった写真だけで学んだ(かおにんしき)は、ほかの人の顔をよくまちがえます。
AIが、わざとそうしているのではありません。データがかたよっていたからです。でも、まちがえられるほうの人は、かなしい思いをして、そんをします。これは公平ではありません。
だから、AIを作る人は、いろいろな人のデータをバランスよく入れて、だれにでもうまく働くかどうかをテストしなければなりません。使うわたしたちも、「これは、だれにでも公平かな?」と問いかけることができます。
ひと目でわかる
-
バランスよく集める
-
みんなでテストする
-
かたよりを直す
かんたんに言うと
くつ屋さんに1つのサイズしかなかったら、足に合う人しかはけません。だれでもはけるようにするには、いろいろなサイズが必要です。
やってみよう
「みんなのためのドア」を考えてみましょう。
- 学校に「声で開くドア」を作るところを、思いうかべます。
- このドアを使う人を、全部書き出します。子ども、おばあさん、かぜをひいた友だち、外国から来た友だちもいます。
- だれの声を集めて教えればよいかを決めます。
- 話すことがむずかしい友だちは、どうすればドアを開けられるでしょうか。
クイズ
文が正しければ[正しい]を、まちがっていれば[まちがい]をえらびましょう。
-
1AIは機械なので、いつでもだれにでも公平です。
せいかいです!
ざんねん。理由を読んでみましょう。
かたよったデータで学ぶと、AIもかたよります。機械だからといって、ひとりでに公平になるわけではありません。
-
2いろいろな人のデータをバランスよく入れると、AIはもっと公平になります。
せいかいです!
ざんねん。理由を読んでみましょう。
バランスよく入れて、だれにでもうまく働くかどうかをテストしなければなりません。
-
3AIが公平かどうかをたしかめるのは、人の仕事です。
せいかいです!
ざんねん。理由を読んでみましょう。
作る人も、使う人も、いっしょにたしかめる必要があります。
せいかいした数 / 3
おぼえておこう
- かたよったデータは、公平ではないAIを作ります。
- いろいろな人のデータを、バランスよく入れなければなりません。
- 公平かどうかをたしかめるのは、人の仕事です。
今日の言葉
言葉をおすと、意味が出てきます。
もっとくわしく
もっと大きい人やおとなのための説明です。おとなといっしょに読んでみましょう。