首頁IT—正文
ChatGPT被指沒“人性”,可能產(chǎn)生哪些危害?
2023年02月21日 16:54 來源:中國新聞網(wǎng)

  中新網(wǎng)2月20日電 (中新財(cái)經(jīng)記者 吳濤)火爆出圈的ChatGPT持續(xù)引發(fā)關(guān)注,有人和它產(chǎn)生共鳴,工作效率更高;也有人質(zhì)疑ChatGPT沒“人性”,或帶來更大的危害;更多的人是好奇,它將如何滲透我們的生活?

  帶著這些問題,近日,記者采訪了清華大學(xué)新聞學(xué)院教授、元宇宙文化實(shí)驗(yàn)室主任沈陽,來看看他是如何看ChatGPT的。

  ChatGPT滲透多個(gè)領(lǐng)域,這些生活場景或率先落地

  據(jù)了解,此前市面上不乏一些AI應(yīng)用,可對(duì)話、可唱歌、可寫作,甚至還可以提供一些諸如“問路”這樣的基礎(chǔ)服務(wù),ChatGPT和這些人工智能有哪些不一樣呢?

  沈陽表示,ChatGPT和原來一些人工智能有所不同,比如它可以通過連續(xù)追問來了解一個(gè)問題的深度,一些探索的答案,這個(gè)是它的直接功能,“使用多了以后,你甚至?xí)l(fā)現(xiàn)ChatGPT還能在多輪的對(duì)話中有一定的邏輯關(guān)聯(lián)!

  “ChatGPT現(xiàn)在一個(gè)顯著的功能是撰寫文章或提供文章架構(gòu),未來學(xué)生在大;蛘弑究飘厴I(yè)時(shí)要求寫的論文,可能大量的都是用人工智能來自動(dòng)生成了!鄙蜿柗Q,目前看,ChatGPT相當(dāng)于211高校中等偏上的本科生水平。

  另外,沈陽還表示,未來,ChatGPT和虛擬人、機(jī)器人的結(jié)合將是必須的。虛擬人和機(jī)器人最重要的就是云大腦,下一步ChatGPT接入到各類虛擬人和機(jī)器人中將是全球趨勢。

  “ChatGPT可以在數(shù)字藏品領(lǐng)域大展身手,從輔助設(shè)計(jì)、數(shù)字文創(chuàng)、自動(dòng)化生成等步驟都可以改進(jìn)和提升效率!鄙蜿柗Q。

  沈陽總結(jié),人工智能潛在的服務(wù)會(huì)從比較準(zhǔn)確性的知識(shí),逐步轉(zhuǎn)向解釋性、闡述性的知識(shí),到最后就是創(chuàng)新性的知識(shí),它會(huì)逐步形成這樣一個(gè)演化邏輯。

  會(huì)替代哪些“飯碗”?對(duì)就業(yè)有影響嗎?

  沈陽表示,首先ChatGPT讓一些工具很容易被替代,同時(shí)一些工具被增強(qiáng)了。比如說搜索引擎、繪圖軟件、office辦公軟件等都將增強(qiáng)!肮ぞ叩脑鰪(qiáng)會(huì)帶來效率的提升,也就是經(jīng)常使用這類軟件的工種,可能會(huì)比較早的被替代!

  “還有就是客服,目前各類電商平臺(tái)或者是某個(gè)公司的網(wǎng)站上面,有些是真人在回答消費(fèi)者問題,未來這些人的作用會(huì)進(jìn)一步降低,因?yàn)槟阒灰堰@個(gè)行業(yè)的知識(shí)灌輸進(jìn)去之后,在人工智能的加持下,自動(dòng)回復(fù)或者說在線機(jī)器人它是能夠比較準(zhǔn)確的回答這些問題的!

  沈陽舉例,還有程序員的“飯碗”也可能面臨ChatGPT的挑戰(zhàn),你只需要描述好任務(wù),人工智能就可以生成相對(duì)比較簡單的代碼,當(dāng)然下一步這些代碼會(huì)越來越復(fù)雜,但是因?yàn)槿斯ぶ悄芤部梢匀ネㄗx網(wǎng)絡(luò)上這些所有的開源代碼,它未來編程能力也會(huì)越來越強(qiáng)。

  有網(wǎng)友在網(wǎng)絡(luò)上稱,“諷刺的是,程序員開發(fā)出了ChatGPT,但ChatGPT卻想讓程序員失業(yè)。”

  最后,沈陽強(qiáng)調(diào),要兩面性的看待ChatGPT帶來的就業(yè)問題,這是一把雙刃劍。比如文創(chuàng)行業(yè),用ChatGPT進(jìn)行文稿撰寫能讓一些“自媒體”失業(yè),但同時(shí)在一定程度上也能讓某一個(gè)平庸的“寫手”,作品質(zhì)量突然有所提升。

  “總之,ChatGPT要么提高了質(zhì)量,要么提升了效率,提升了效率的話,實(shí)際上就會(huì)造成一部分人失業(yè)了!鄙蜿柗Q。

  被吐槽沒“人性”,可能產(chǎn)生哪些危害?

  ChatGPT走紅以后也引發(fā)一些爭議,多家媒體報(bào)道,蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克甚至直接吐槽ChatGPT在給我們帶來一些便利的同時(shí),可能犯下一些可怕的錯(cuò)誤,因?yàn)樗欢叭诵浴保狈Κ?dú)一無二的人類情感和品質(zhì)。

  沈陽認(rèn)為,ChatGPT的危害首先表現(xiàn)在它輸出的內(nèi)容到底可信不可信上面。很多測試結(jié)果顯示,唯一性答案的問題,ChatGPT回答得很準(zhǔn)確;但如果提的問題稍微深?yuàn)W一點(diǎn),可能是一個(gè)多選項(xiàng)時(shí),ChatGPT出錯(cuò)率就增加了。

  “如果是一個(gè)完全開放,并且胡謅的問題,ChatGPT有時(shí)候也給你胡謅。即便你正兒八經(jīng)地問問題,它可能也會(huì)給你回復(fù)一條夾雜了不實(shí)信息的內(nèi)容。”沈陽舉例說。

  實(shí)際上,谷歌為此已經(jīng)付出代價(jià)。谷歌母公司Alphabet最近發(fā)布的新人工智能技術(shù)Bard在演示時(shí)發(fā)生了一個(gè)錯(cuò)誤,引發(fā)投資者擔(dān)憂,導(dǎo)致該公司股價(jià)大跌,市值當(dāng)時(shí)蒸發(fā)約1000億美元。

  另外,沈陽表示,ChatGPT回答包含的媒體發(fā)布的信息相對(duì)是比較少的,所以在回答內(nèi)容的質(zhì)量上面,在價(jià)值觀的偏見上面,在某些領(lǐng)域它還是存在很大的問題的,這些問題都是未來其他的AIGC平臺(tái)需要去避免的。

  沈陽還表示,當(dāng)AI能夠代替人腦的一部分思考,人腦的思考價(jià)值性就被抵消了一部分。在教育中使用,還怎么訓(xùn)練學(xué)生的思維能力?如果教育無法優(yōu)化教學(xué)效果,人類怎么去培育新生代呢?(完)