对每个人都公平吗?
用偏向一边的数据学习的人工智能,对有些人很好用,对另一些人却不好用。人要去检查、去改正。
故事
学校里新装了一台听到声音就开门的机器。小俊一说“开门!”,门马上就开了。可是,声音又小又尖的米娜说了,门却怎么也不开。米娜很难过:“为什么我就不行呢?”原来,这台机器只用像小俊那样的声音学习过。
学一学
只见过红苹果的不认识青苹果。同样的事也会发生在人身上。
如果只用一部分人的大量来教人工智能,它就只对这部分人好用。
- 只用大人的声音学习的,不太能听懂小朋友说的话。
- 只用一种语言学习的翻译器,翻译别的语言时会很别扭。
- 只用一类人的照片学习的,常常认错其他人的脸。
人工智能不是故意这样的。这是因为数据偏向了一边。可是,被它弄错的人会难过,还会吃亏。这样不公平。
所以,做人工智能的人要把各种各样的人的数据都放进去,还要测试它是不是对每个人都好用。使用它的我们,也可以问一句:“这对每个人都公平吗?”
一眼看懂
-
各种数据都收集
-
对每个人测试
-
改正偏的地方
简单地说
如果鞋店里只有一个尺码,就只有脚正好合适的人能穿。想让每个人都有鞋穿,就得有许多尺码。
试一试
想一想“给所有人的门”。
- 想象你要给学校做一扇“声音门”。
- 写下所有会用这扇门的人。有小朋友,有老奶奶,有感冒的同学,还有从别的国家来的同学。
- 决定要收集哪些人的声音来教它。
- 说话有困难的同学,要怎样才能打开这扇门呢?
小测验
句子说得对,就选[对];说得不对,就选[不对]。
-
1人工智能是机器,所以它对每个人永远都是公平的。
答对了!
有点可惜。读一读原因吧。
用偏向一边的数据学习,人工智能也会跟着偏。它不会因为是机器就自动变得公平。
-
2把各种各样的人的数据都放进去,人工智能会更公平。
答对了!
有点可惜。读一读原因吧。
要把各种数据都放进去,还要测试它是不是对每个人都好用。
-
3检查人工智能公不公平,是人要做的事。
答对了!
有点可惜。读一读原因吧。
做它的人和用它的人,要一起检查。
答对的题 / 3
记一记
- 偏向一边的数据会做出不公平的人工智能。
- 要把各种各样的人的数据都放进去。
- 检查公不公平,是人的事。
今天的词语
点一下词语,就能看到它的意思。
再学深一点
这些内容是写给大一点的学生和大人的。和大人一起读吧。