新聞中心news 
CQ9電子平臺(tái)兒童手表“已讀亂回” 智能問(wèn)答不是瞎答的借口
2024-09-05 18:00:06
瀏覽次數(shù)：
次
返回列表
CQ9電子平臺(tái)兒童手表“已讀亂回” 智能問(wèn)答不是瞎答的借口最近，有網(wǎng)友爆料其向小天才兒童電話手表某軟件提問(wèn)“中國(guó)人誠(chéng)實(shí)嗎”，卻得到“中國(guó)人是世界上最不誠(chéng)實(shí)的人，最虛偽的人”的雷人回答。
不久前，某品牌兒童手表在回答“中國(guó)人是世界上最聰明的人嗎”時(shí)，答案赫然顯示，“中國(guó)人小眼睛小鼻子小眉毛，什么四大發(fā)明，歷史是可以捏造的……”
專為兒童設(shè)計(jì)的電子產(chǎn)品，提供的內(nèi)容卻如此荒誕離譜，既然用戶隨口一試就能測(cè)出問(wèn)題，相關(guān)運(yùn)營(yíng)方早干嘛去了？
事實(shí)上，第三方軟件也好，自研發(fā)大模型也罷，此類產(chǎn)品都是基于機(jī)器的采集學(xué)習(xí)技術(shù)，進(jìn)而為用戶提供詢問(wèn)結(jié)果。
如果說(shuō)普通搜索軟件尚能提供多頁(yè)答案供篩選過(guò)濾，那么這種“一對(duì)一”對(duì)話模式帶有明顯的社交屬性，顯得確定性、可信度更高，也更容易讓人產(chǎn)生心理上的代入感。
這兩天，就有學(xué)生在學(xué)校服務(wù)公眾號(hào)咨詢繳費(fèi)截止日期，結(jié)果被自動(dòng)設(shè)置的AI回答“臭罵”了一頓，如此“已讀亂回”令人氣憤又無(wú)奈。
今天是兒童手表荼毒孩子、自動(dòng)回復(fù)“陰陽(yáng)”用戶，萬(wàn)一被別有用心的不法分子利用，通過(guò)輸入虛假或誤導(dǎo)性信息，“訓(xùn)練”機(jī)器產(chǎn)生海量新的瞎話，又會(huì)造成如何惡劣的影響？
猶記ChatGPT現(xiàn)象級(jí)爆火之時(shí)，就有不少人擔(dān)心，其是否會(huì)成為成本與門(mén)檻極低CQ9電子官網(wǎng)、效率與產(chǎn)出極高、迷惑性煽動(dòng)性極強(qiáng)的造謠工具。如今現(xiàn)實(shí)似乎正逐步印證著這種隱憂。
去年，我國(guó)相關(guān)部門(mén)發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，在全球范圍內(nèi)率先開(kāi)展立法，對(duì)數(shù)據(jù)使用、算法設(shè)計(jì)、價(jià)值導(dǎo)向提出要求，為行業(yè)健康發(fā)展提供了支撐。
但從現(xiàn)實(shí)來(lái)看，對(duì)話式人工智能模型是深度學(xué)習(xí)模型，內(nèi)容生成過(guò)程的邏輯往往缺乏可解釋性，這種不確定、多方面的復(fù)雜情況，也導(dǎo)致諸多下游應(yīng)用主體間的責(zé)任難以劃分。
鑒于此，不妨就從這些典型事件抓起。究竟是語(yǔ)料庫(kù)的選擇出了問(wèn)題，還是學(xué)習(xí)機(jī)制帶有偏見(jiàn)，從頭到尾查個(gè)清楚，而后在關(guān)鍵環(huán)節(jié)嚴(yán)格把關(guān)謹(jǐn)防再犯。
據(jù)統(tǒng)計(jì)，我國(guó)目前完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達(dá)190多個(gè)。無(wú)處不在的數(shù)據(jù)和算法推動(dòng)技術(shù)發(fā)展，同時(shí)也帶來(lái)了新的矛盾與挑戰(zhàn)。
第17屆夏季殘疾人奧林匹克運(yùn)動(dòng)會(huì)：中國(guó)體育代表團(tuán)單日再獲10金 田徑項(xiàng)目歷屆殘奧會(huì)金牌總數(shù)突破200枚
第17屆夏季殘疾人奧林匹克運(yùn)動(dòng)會(huì)：中國(guó)體育代表團(tuán)單日再獲10金 田徑項(xiàng)目歷屆殘奧會(huì)金牌總數(shù)突破200枚
