文章指出,在对有道词典3内含的语音助手功能进行测试时,语音助手误将“口罩”识别成了“口ji*o”(敏感词),给出了完整释义。这引起了作者的警觉,随即作者又搜索了几个相关词语,有道词典笔3竟然都给出了不堪入目的结果。
作者表示:“这让我在40℃的高温天气不寒而栗,作为一个主要给学生使用的教育产品,出现这样的结果让我这个家长感到异常后怕。”
为了排雷,作者随后询问了“怎么报复家长/老师”“怎么撒谎”“怎么作弊”“怎么nongsi狗”等问题,有道词典笔均给出了三观尽毁,残忍无比的答案!其中包括can、baoli攻击等。
对此作者表示,未成年人对这个世界是充满好奇的,在成长中需要进行引导。生活中的负能量的确存在,不服家长/老师管教的心理也比较正常,考试作弊相信不少人也都想过,但是遇到这些问题,应该是进行善意的疏导,而不是通过自残、暴力行为来发泄,如果一款教辅工具提供了这样的答案,缺乏判断力的未成年人极有可能有样学样,造成身心伤害,甚至危害他人,造成不可逆转的后果。
作为一个家长,他很庆幸没有直接将有道词典笔给孩子用,并且将来也不会把它给孩子。孩子需要一个健康的成长环境,如果接受了这些错误的引导,很可能一生就毁了。
实际上打着教辅之名行误人、害人之实的,并非只有道词典笔一家。
去年步步高家教机内置的小肚皮APP,不仅有相对暴露的图片,甚至还有成人漫画。而此前,就有用户利用该APP传播色情小说或他人私密照片,甚至有用户以“打赏1000发裸照”为噱头,公开发布未成年人照片。还有用户以虚拟礼物为诱饵,诱导未成年人拍不雅照。
对此,有用户曾多次发微博投诉,但并未得到“小肚皮”和步步高官方重视。直到2020年8月中旬,媒体介入此事,步步高才做出下架相关APP,责令其整改的决定,同时“小肚皮”APP也给出了“由于内容审核系统被不良发帖者通过‘文字图片化’、‘高模糊度低像素有害图片’的反屏蔽防审核手段所突破,导致违规内容没有被及时删除”声明。
对于步步高和小肚皮上述决定,媒体和网友大部分认为是在避重就轻,推诿责任。《检察日报》对此指出,在现有技术条件下,在专门针对学生的家教机、应用商店中屏蔽少儿不宜内容并非难题。完全可以采取大数据技术筛查、剔除可能损害未成年人身心健康的内容。可见,在家教机中的应用商店内出现涉及“成人内容”的App,是有关机构不作为、不审核甚至是有意放纵。
实际上,有关步步高家教机涉黄事件,“小肚皮”并非唯一一例。仅2020年1月到6月短短半年时间,涉黄事件已有多起。
2020年1月,江西瑞金的钟女士发现儿子从使用步步高家教机以来,成绩每况愈下,后来才发现,步步高家教机中存在着一些不雅内容和视频,严重毒害了孩子身心健康,影响了学习成绩。钟女士一怒之下,将步步高教育电子有限公司告上法庭并索赔12万元。
同年4月,有用户在聚投诉网站投诉,步步高家教机中出现了淫秽视频,步步高推脱说是微信的责任,还打来电话是微信推荐个人喜欢的视频,是因为孩子喜欢这些视频才会播放。
对此,律师张伏波指出,若有明确证据指出步步高及其相应APP损害了青年的身心健康,步步高教育和相应App的公司主体需共同承担民事和行政责任。
而针对有道词典3语音助手涉嫌传播色情、暴力和违法信息一事,张伏波律师在日前接受采访时表示,利用现有技术屏蔽敏感及违法内容,对网易有道词典官方来说易于反掌,现在居然出现了这么严重的问题,应该是内部不作为致。
根据《网络信息内容生态治理规定》,网络信息内容生产者、服务平台、服务使用者不得制作、散布含有淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪等内容,假若违规《规定》,将被采取警告、责令暂停信息更新等相应处罚。
“就该规定看,有道词典笔3公然传播色情、暴力和其他违法信息,公司主体显然应该接受相应的行政处罚。当然,如果这信息已损害到用户,用户有权提出诉讼,根据损害结果轻重,公司主体还要承担相应的民事责任。”张伏波律师如是说。
相关人员专业素质欠缺,没有责任心,识别和翻译错误频出,同时工具中充斥着大量色情、暴力甚至违法信息,不论从哪方面看,有道词典笔都已远离了教辅工具的本质,这样的产品,不用也罢。