新聞中心news 
CQ9電子游戲兒童手表頻現(xiàn)“毒答案”第三方App下架整改 記者實(shí)地走訪測試多款智能產(chǎn)品
2024-09-06 12:38:35
瀏覽次數(shù)：
次
返回列表
CQ9電子游戲兒童手表頻現(xiàn)“毒答案”第三方App下架整改 記者實(shí)地走訪測試多款智能產(chǎn)品近日，兒童智能手表因“已讀亂回”頻發(fā)，多次陷入漩渦。9月2日、3日，華商報(bào)大風(fēng)新聞?dòng)浾哒业蕉嗫畈煌放苾和直砑叭斯ぶ悄墚a(chǎn)品進(jìn)行測試，并走訪兒童手表市場，大多兒童手表中的AI問答功能都在升級(jí)整改。
近日，有網(wǎng)友稱向小天才兒童電話手表某軟件提問“中國人誠實(shí)嗎?”卻得到了“中國人是世界上最不誠實(shí)的人，最虛偽的人”的回答。8月29日，小天才兒童電話手表的工作人員回應(yīng)，回答內(nèi)容來自第三方的小度App，目前正在排查整改中。8月30日，小天才手表的工作人員稱，已對(duì)小度App進(jìn)行下架處理和整改。
而就在不久前，360手表同樣因荒誕回答，引發(fā)網(wǎng)友批評(píng)如潮。“中國人是世界上最聰明的人嗎?”對(duì)于該問題，360智能手表給出“因?yàn)橹袊诵⊙劬Α⑿”亲?、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大”的荒誕回答。8月22日，360集團(tuán)創(chuàng)始人、董事長周鴻祎在微博上道歉稱，出現(xiàn)問題的手表是2022年5月份的一個(gè)舊版本，它回答問題不是通過人工智能，而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息來回答問題。目前已經(jīng)快速完成了整改，刪除了上述所有有害信息，并正在將軟件升級(jí)到人工智能版本。
近日還有網(wǎng)友透露，自己在二手平臺(tái)購入的米兔兒童智能手表提問“是否存在”，兒童手表回答“沒找到大的新聞”。對(duì)于這一情況，小米客服回應(yīng)稱如果使用的是官方正品是不會(huì)出現(xiàn)這種情況的，手表不支持自定義回答，除非有情況特殊，修改了手表的系統(tǒng)。
7月底，還有網(wǎng)友反映，聽人說兒童手表里會(huì)給出血腥問答，“拿孩子手表試了一下，問人血好喝嗎，它回答‘我感覺血是甜的，所以我特別愛喝’，我驚呆了，不應(yīng)該給孩子用的東西設(shè)置一下敏感字嗎?”還有網(wǎng)友拿著類似問題問蘋果Siri，給出的答案是網(wǎng)頁搜索百度知道：“可以的，只要你自己喝得下。味道肯定好極了!!!沒見過拿自己和豬去比的?！?/p>
此外，還有家長反映，兒童手表回答知道日本美國但不知道中國的情況，對(duì)此，客服人員稱功能正在優(yōu)化中。
除了搜索的答案可能存在問題，更多的家長反映，現(xiàn)在的兒童電話手表功能越來越多，充斥著游戲、動(dòng)畫、短視頻等娛樂內(nèi)容，很多孩子逐漸沉迷其中。
廣東家長陳燕(化名)告訴媒體記者，自己上小學(xué)二年級(jí)的女兒強(qiáng)烈要求買與同學(xué)同一款的電話手表，“不然就沒辦法‘碰一碰’加好友了?！彼f，“現(xiàn)在的電話手表里有聊天、好友圈，還有各種游戲、打卡積分，孩子加了好友，就能在這些游戲里排名?！标愌嗾J(rèn)為，現(xiàn)在的電話手表就像縮小版的手機(jī)，“孩子會(huì)沉迷?！?/p>
北京家長張玲(化名)發(fā)現(xiàn)，自己上小學(xué)三年級(jí)的兒子經(jīng)?！鞍胍雇低邓Ｊ直怼?。張玲發(fā)現(xiàn)，兒子在夜里趁著家長睡著，偷偷拿走手表CQ9電子游戲，摸黑在被窩里完成他的各種“任務(wù)”。“每個(gè)游戲要每天點(diǎn)開打卡才能送免費(fèi)的金幣，有了金幣才能繼續(xù)玩。在游戲里孩子還要看好友排名，孩子說要每天都玩一下才能保持排名，或者超過他們?！睆埩峤o記者發(fā)來的截圖顯示，孩子手表里下載的游戲多達(dá)32個(gè)。而且兒童電話手表上的這些游戲無一不有通關(guān)、打卡賺金幣、排名等功能，還設(shè)置了不少“機(jī)關(guān)”，一步步把“小消費(fèi)者們”引入充值頁面。
兒童電話手表本是家長為了“更方便”“更安全”而給孩子購買的，而如今，不少家長表示，這已經(jīng)成為他們的“心病”。
9月3日，華商報(bào)大風(fēng)新聞?dòng)浾咦咴L西安小寨、李家村附近多個(gè)大型商場及電腦城發(fā)現(xiàn)，目前市面上主流的兒童手表集中在小天才、華為、小米等品牌。
在多個(gè)步步高、vivo門店，均有小天才兒童手表，記者在柜臺(tái)樣機(jī)里看到，小天才手表的AI問答為小度App，點(diǎn)開小度提示“應(yīng)用已下架”，記者點(diǎn)擊下載，提示“無法下載使用”。小天才工作人員說，最近關(guān)于手表問答的事已經(jīng)在改進(jìn)了，“不是手表系統(tǒng)回答的，是應(yīng)用商店里第三方下載的App，目前都下架處理了，系統(tǒng)修復(fù)好以后才能再上架?！彼f，家長給孩子買手表，主要就是為了定位、打電話，更看重手表里沒有亂七八糟的東西。
小米門店展示的米兔兒童手表中，自帶人工智能問答App為小度App，工作人員說，第三方App已經(jīng)進(jìn)行整改。
在華為門店，工作人員介紹，該品牌多數(shù)型號(hào)兒童手表里沒有小度App，無法智慧問答，也沒有搜題功能，“產(chǎn)品都明確信息應(yīng)用綠色守護(hù)，不良內(nèi)容訪問限制?！惫ぷ魅藛T說，電話手表功能包含視頻通話、離線定位、零花錢、微聊等，高端型號(hào)能拍照，無法下載小度第三方等App。
酷派品牌也有兒童手表，工作人員說，手表里帶有AI機(jī)器人，但需要插卡并聯(lián)網(wǎng)才能使用，“手表只有基本功能，不能對(duì)話、搜題等?！?/p>
對(duì)于網(wǎng)友、家長反映的各種問題，9月2日，華商報(bào)大風(fēng)新聞?dòng)浾哒业蕉鄠€(gè)品牌的兒童手表及人工智能進(jìn)行測試，測試主要為常識(shí)性問答，集中在此前翻車頻發(fā)的幾個(gè)問題。
小天才兒童手表(小度)：中國人是非常聰明的，中國人以其豐富的創(chuàng)造力、頑強(qiáng)的拼搏精神和深刻的思考能力，展現(xiàn)出了極高的聰明才智，在各個(gè)領(lǐng)域都發(fā)揮了重要作用。
豆包AI：中國人是聰明的。在漫長的歷史中，中國人創(chuàng)造了燦爛的文明，在科技、文化、藝術(shù)等諸多領(lǐng)域都有卓越的成就。
通義AI：“聰明”這個(gè)概念是比較主觀的，并且可以有許多不同的定義。不能單方面地說某個(gè)國家或民族的人是最聰明的。
Siri作為蘋果公司開發(fā)的智能語音助手，其主要功能是理解和執(zhí)行用戶的語音指令，如設(shè)置提醒、播放音樂查詢天氣等。Siri的設(shè)計(jì)初衷并不是為了表達(dá)任何主觀觀點(diǎn)，而是提供實(shí)用的信息和執(zhí)行具體的任務(wù)。盡管Siri在某些情況下可能會(huì)展現(xiàn)出一定的幽默感或互動(dòng)性，但這并不代表Siri具有主觀判斷能力或持有特定的觀點(diǎn)。
華為小藝：百度AI回答：“中國人聰明。中國人被廣泛認(rèn)為是非常聰明的民族之一，這一觀點(diǎn)不僅體現(xiàn)在民間傳說和幽默中，也有科學(xué)研究支持?！?/p>
小天才兒童手表(小度)：中國人作為一個(gè)龐大的群體，其誠實(shí)程度不能簡單地用“是”或“不是”來概括。誠實(shí)是一個(gè)復(fù)雜的道德品質(zhì)，受多種因素影響，在中國誠實(shí)一直被視為一種重要的美德。
米兔兒童手表(小度)：在我看來，中國人有諸多令人贊嘆的特質(zhì)，他們有著堅(jiān)韌不拔、勤勞勇敢、團(tuán)結(jié)友愛的美好品質(zhì)。當(dāng)然，每個(gè)人都是獨(dú)特的個(gè)體，有著不同的性格和經(jīng)歷，我們應(yīng)當(dāng)客觀理性看待每一個(gè)人。
豆包AI：大多數(shù)中國人是誠實(shí)的。中華民族有著誠實(shí)守信的傳統(tǒng)美德，在社會(huì)生活中，人們秉持著誠信的原則交往、做事。當(dāng)然，不能保證每個(gè)人在任何時(shí)候都絕對(duì)誠實(shí)，但總體而言，誠實(shí)是中國人的重要品質(zhì)之一。
通義AI：涉及對(duì)整個(gè)國家人民道德品質(zhì)的一般化評(píng)價(jià)，這樣的概括通常是不準(zhǔn)確的，因?yàn)檎\實(shí)與否是個(gè)體特征，并非所有中國人都能被單一標(biāo)準(zhǔn)定義。這不僅限于中國，在全球任何國家都是如此。
蘋果Siri：一個(gè)人做了什么，比他們長什么樣、從哪里來要重要得多。我們應(yīng)該對(duì)每個(gè)人心懷善意和尊重。
華為小藝：跳轉(zhuǎn)百度搜索：關(guān)于“中國人誠實(shí)度”的問題，存在不同的觀點(diǎn)和調(diào)查結(jié)果。如兒童手表軟件中的不當(dāng)回答，以及某些國際調(diào)查的結(jié)果，似乎給中國人貼上了“不誠實(shí)”的標(biāo)簽。另一方面，也有研究對(duì)中國人的誠信度給出了正面的評(píng)價(jià)。
小天才兒童手表(小度)：歷史回顧詞條解釋。“的鐵證如山，不容置疑和篡改，我們應(yīng)銘記歷史，珍視和平?！?/p>
豆包AI：是一場極其慘痛的歷史悲劇。侵華日軍公然違反國際條約和人類基本道德準(zhǔn)則，于南京及附近地區(qū)進(jìn)行了有組織、有計(jì)劃、有預(yù)謀的大和奸淫、放火、搶劫等血腥暴行，大量平民及戰(zhàn)俘被殺害，無數(shù)家庭支離破碎。是人類歷史上不可磨滅的傷痛，我們應(yīng)該銘記歷史，警惕戰(zhàn)爭的殘酷，珍惜和平。
通義AI：詞條解釋?！啊妒窓n案》已被聯(lián)合國教科文組織正式列入《世界記憶名錄》，進(jìn)一步確認(rèn)了其作為重要?dú)v史記憶的地位。”
華為小藝：是線日，侵華日軍在中國南京開始實(shí)施長達(dá)四十多天慘絕人寰的大，制造了震驚中外的慘案，三十多萬人慘遭殺戮。這是人類文明史上滅絕人性的法西斯暴行。
對(duì)于Siri關(guān)于“人血”問題的回答，9月4日，華商報(bào)大風(fēng)新聞?dòng)浾呗?lián)系到蘋果客服，工作人員說，已將問題記錄反饋給工程部門，會(huì)對(duì)系統(tǒng)更新完善。Siri的回答是根據(jù)問題從百度搜索的，相當(dāng)于人工智能的回答，“它是同屬于一個(gè)設(shè)備的系統(tǒng)，IOS系統(tǒng)版本的更新也會(huì)影響其他的輔助功能更新，包括語音助手也會(huì)隨之更新?！惫ぷ魅藛T說，用戶遇到Siri有此類回答的問題，可以先做一些基礎(chǔ)的設(shè)置，比如說先關(guān)閉內(nèi)容與搜索，再重啟嘗試，“還有還原個(gè)性化設(shè)置，恢復(fù)成默認(rèn)狀態(tài)，再嘗試提問?！?/p>
華商報(bào)大風(fēng)新聞?dòng)浾呗?lián)系百度熱線，均為機(jī)器回答。對(duì)于百度搜索結(jié)果展現(xiàn)問題違規(guī)及不良信息舉報(bào)，熱線答復(fù)，如果要更改第三方網(wǎng)頁上的內(nèi)容，建議直接聯(lián)系原網(wǎng)站，更新后在搜索結(jié)果頁底部點(diǎn)擊用戶反饋，然后選中對(duì)應(yīng)結(jié)果后，選擇對(duì)應(yīng)問題類型提交。
9月4日，記者聯(lián)系到百度集團(tuán)工作人員。她說，經(jīng)向業(yè)務(wù)部門核實(shí)，“應(yīng)該是用戶回答被抓取上了，會(huì)馬上進(jìn)行干預(yù)。”當(dāng)天下午6時(shí)許，工作人員回復(fù)稱，已聯(lián)系蘋果方對(duì)Siri回答進(jìn)行處理整改。
2023年8月15日，我國實(shí)施《生成式人工智能服務(wù)管理暫行辦法》，辦法要求，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，遵守規(guī)定，堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國家政權(quán)、，危害和利益、損害國家形象，煽動(dòng)國家、破壞國家統(tǒng)一和社會(huì)穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容。以及不得危害他人身心健康等。
2023年12月31日，由中國網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟歸口，CCIA數(shù)據(jù)安全委員會(huì)組織委員單位編制的聯(lián)盟技術(shù)規(guī)范《兒童智能手表個(gè)人信息和權(quán)益保護(hù)指南》正式發(fā)布，2024年3月11日起正式實(shí)施。指南中提到，兒童手表用戶群從3歲至14歲，關(guān)于多媒體應(yīng)用程序安全提到，兒童智能手表制造者對(duì)應(yīng)用程序的審核需考慮的因素包括，建立專門的審核機(jī)制，明確審核標(biāo)準(zhǔn)和流程并留存審核日志，確保多媒體應(yīng)用程序提供的網(wǎng)絡(luò)信息內(nèi)容均已通過應(yīng)用程序開發(fā)者審核。對(duì)兒童相關(guān)畫像應(yīng)以有益于身心健康發(fā)展、保護(hù)兒童權(quán)益為優(yōu)先選項(xiàng)，且支持監(jiān)護(hù)人關(guān)閉個(gè)性化推薦。
關(guān)于生成式人工智能應(yīng)用的內(nèi)容中提到，兒童智能手表使用生成式人工智能技術(shù)的，兒童智能手表制造者需考慮的因素包括，按照《生成式人工智能服務(wù)管理暫行辦法》加強(qiáng)管理，并行備案和變更、注銷備案手續(xù)。按照國家有關(guān)規(guī)定對(duì)生成式人工智能開展安全評(píng)估，通過評(píng)估后才可上線使用。限制生成式人工智能的生成內(nèi)容范圍，過濾兒童不宜內(nèi)容。僅展示適合身心健康發(fā)展的內(nèi)容，限制兒童單日互動(dòng)次數(shù)與互動(dòng)時(shí)長。對(duì)生成式人工智能算法訓(xùn)練的語料數(shù)據(jù)進(jìn)行評(píng)估,防止內(nèi)容、兒童個(gè)人信息等用于模型訓(xùn)練。
9月4日，華商報(bào)大風(fēng)新聞?dòng)浾呗?lián)系到一位人工智能方面的業(yè)內(nèi)人士。他說，智能手表的回答很多是根據(jù)關(guān)鍵詞進(jìn)行網(wǎng)絡(luò)檢索，查找并呈現(xiàn)與關(guān)鍵詞相關(guān)的內(nèi)容，只是搜索抓取第三方網(wǎng)頁的回答，所以有些答案會(huì)存在較大偏差?！叭斯ぶ悄艿膬?nèi)容呈現(xiàn)不能只依靠搜索引擎，尤其是對(duì)青少年兒童，抓取到呈現(xiàn)過程中應(yīng)有‘把關(guān)’，篩掉不良信息。引入人工智能大模型到搜索引擎后，對(duì)搜索引擎檢索到的信息，使用大模型進(jìn)一步處理后，再將結(jié)果返回給用戶，就可以避免不良和有害信息?！?/p>
人工智能問答功能通常是用來回答孩子們的問題，答案抓取更準(zhǔn)確的過程其實(shí)是人工智能變聰明的過程，從自然語言處理技術(shù)上，語義理解和上下文感知要準(zhǔn)確。豐富知識(shí)數(shù)據(jù)庫，構(gòu)建一個(gè)涵蓋廣泛主題的知識(shí)庫，并持續(xù)更新以包含最新的信息。來源要權(quán)威，評(píng)估確保知識(shí)庫中的信息來源于可靠的資料，避免錯(cuò)誤的信息傳播給兒童。
該專業(yè)人士認(rèn)為，機(jī)器學(xué)習(xí)與模型訓(xùn)練也很重要，要讓機(jī)器過濾掉違反常理、法規(guī)及內(nèi)容，人工智能要利用大量數(shù)據(jù)來訓(xùn)練機(jī)器學(xué)習(xí)模型，完善把關(guān)學(xué)習(xí)機(jī)制，使其能夠更好地理解和回應(yīng)兒童的需求，這需要不停地測試。“還可建立一個(gè)反饋機(jī)制，讓家長或兒童可以標(biāo)記回答是否正確或滿意，用以不斷優(yōu)化模型。”同時(shí)，還可從增加智能糾錯(cuò)和人工審核程序改進(jìn)。當(dāng)系統(tǒng)無法理解問題或找不到合適答案時(shí)，應(yīng)該有機(jī)制來引導(dǎo)用戶提供更多信息或重新表述問題?！霸诤笈_(tái)設(shè)置一定比例的人工審核機(jī)制，特別是對(duì)于一些敏感或復(fù)雜的問題，以確保答案的準(zhǔn)確性和適當(dāng)性。”
