據(jù)報(bào)道,蘋果公司阻止了一款電子郵件應(yīng)用程序基于ChatGPT的更新,原因是擔(dān)心可能會(huì)生成不適合兒童的內(nèi)容。這款應(yīng)用程序名為BlueMail,該應(yīng)用程序試圖增加AI功能,使用ChatGPT來幫助自動(dòng)編寫郵件。(新浪財(cái)經(jīng))
這一消息來自蘋果公司發(fā)給該應(yīng)用開發(fā)者的郵件,這款應(yīng)用名為BlueMail,開發(fā)公司為Blix,其聯(lián)合創(chuàng)始人本 沃拉赫(Ben Volach)介紹,上周,蘋果公司采取措施阻止了BlueMail的更新,因?yàn)閾?dān)心該應(yīng)用中一個(gè)新的人工智能功能可能會(huì)顯示不適當(dāng)?shù)膬?nèi)容。BlueMail的新人工智能功能使用OpenAI最新的ChatGPT聊天機(jī)器人來幫助用戶根據(jù)之前的電子郵件和日歷事件自動(dòng)寫出電子郵件。
蘋果公司的應(yīng)用審核團(tuán)隊(duì)上周在發(fā)送給該應(yīng)用開發(fā)者的信中稱,“你的應(yīng)用包含了由人工智能生成的內(nèi)容,但目前似乎沒有包含內(nèi)容過濾功能。”該審核團(tuán)隊(duì)說,由于該應(yīng)用可能產(chǎn)生不適合所有受眾的內(nèi)容,BlueMail 應(yīng)該將其年齡限制提高到17歲以上,或者包含內(nèi)容過濾功能。文件顯示,沃拉赫說該應(yīng)用有內(nèi)容過濾功能,目前該應(yīng)用對(duì)4歲及以上用戶開放。蘋果公司對(duì)17歲及以上用戶設(shè)置了年齡限制,這個(gè)類別包括可能包含從粗俗語言到性、毒品內(nèi)容等各種內(nèi)容的應(yīng)用。沃拉赫說,這個(gè)要求是不公平的,并且其他有類似人工智能功能而沒有年齡限制的應(yīng)用已經(jīng)被允許在蘋果用戶中使用,“蘋果公司讓我們很難給我們的用戶帶來創(chuàng)新。”沃拉赫說。
(資料圖片)
蘋果公司的一位發(fā)言人說,開發(fā)者可以通過其應(yīng)用審核委員會(huì)的申訴程序來申訴,并且該公司正在調(diào)查Blix的申訴。
所謂的生成型人工智能已經(jīng)成為幾十年來最受關(guān)注的發(fā)展中技術(shù)之一,主要由OpenAI創(chuàng)建的ChatGPT聊天機(jī)器人引發(fā)。
此前曾報(bào)道,微軟最近發(fā)布了一個(gè)新版本的必應(yīng)應(yīng)用,其中包含了ChatGPT功能,并將其提交到蘋果的App Store和谷歌的AndroidPlay Store。在iPhoneApp Store中的必應(yīng)應(yīng)用遵循了蘋果公司要求的17歲以上年齡的用戶限制,而在谷歌Play商店中沒有任何年齡限制。一位微軟發(fā)言人說,在App Store中的必應(yīng)擁有17歲以上年齡限制是因?yàn)樵搼?yīng)用能夠找到成人內(nèi)容。
相關(guān)閱讀
經(jīng)濟(jì)日?qǐng)?bào):“ChatGPT禁令”頻發(fā)為哪般?
要說2023年初的互聯(lián)網(wǎng)熱點(diǎn)當(dāng)屬ChatGPT,但是最近多家公司和機(jī)構(gòu)開始對(duì)ChatGPT的使用施加限制。以ChatGPT為代表的人工智能技術(shù)在給人類帶來便利的同時(shí)也引發(fā)了諸多擔(dān)憂。
首先是信息泄露和合規(guī)風(fēng)險(xiǎn)。摩根大通近日開始限制員工使用ChatGPT,成為第一家在工作場(chǎng)所限制使用ChatGPT的華爾街投行。隨后,花旗集團(tuán)和高盛集團(tuán)也加入華爾街禁用ChatGPT之列。而此前,微軟和亞馬遜因擔(dān)心泄露機(jī)密信息,禁止公司員工向ChatGPT分享敏感數(shù)據(jù),因?yàn)閱T工輸入的信息可能會(huì)被ChatGPT用作進(jìn)一步迭代的訓(xùn)練數(shù)據(jù)。咨詢公司埃森哲也出于類似原因,警告員工不要將客戶信息透露給ChatGPT。
其次是內(nèi)容剽竊和作弊風(fēng)險(xiǎn)。在大學(xué)和出版界,“ChatGPT禁令”已經(jīng)較為普遍。為避免學(xué)生過于依賴此類工具,美國、法國、英國等多國學(xué)校發(fā)出禁令,禁止學(xué)生在學(xué)校內(nèi)使用類似于ChatGPT的人工智能工具完成學(xué)習(xí)任務(wù)和考試。香港大學(xué)近日也表示,禁止在港大所有課堂、作業(yè)和評(píng)估中使用ChatGPT或其他人工智能工具。美國知名科幻雜志《克拉克世界》宣布,由于近期收到大量人工智能生成的稿件,決定停止接收投稿。在學(xué)術(shù)、應(yīng)試和文學(xué)創(chuàng)作等領(lǐng)域,ChatGPT的表現(xiàn)十分優(yōu)秀,遭到的反對(duì)也最為激烈,因?yàn)槿藗儞?dān)心對(duì)此類軟件的過度依賴將會(huì)使人喪失獨(dú)立思考的能力。
此外,ChatGPT等人工智能技術(shù)對(duì)網(wǎng)絡(luò)和數(shù)據(jù)安全的威脅也值得關(guān)注。盡管ChatGPT本身尚不具備直接攻擊網(wǎng)絡(luò)安全和數(shù)據(jù)安全的能力,但由于它具有自然語言生成和理解的能力,能夠用來編程或?qū)懻撐?,自然也能被用來編寫惡意代碼、垃圾郵件等。
任何一項(xiàng)新技術(shù)的誕生往往伴隨著弊端與風(fēng)險(xiǎn)。面對(duì)人工智能帶來的挑戰(zhàn),相應(yīng)的安全技術(shù)和監(jiān)管制度應(yīng)該跟上。許多大學(xué)已經(jīng)在使用檢測(cè)抄襲的軟件,ChatGPT的開發(fā)者OpenAI公司表示,該軟件的目標(biāo)是與教育工作者合作,幫助教師和學(xué)生從人工智能中受益,不希望ChatGPT在學(xué)校或其他任何地方被用于誤導(dǎo)目的,已經(jīng)在開發(fā)應(yīng)對(duì)措施,以幫助識(shí)別該系統(tǒng)生成的文本。而針對(duì)此類應(yīng)用的安全風(fēng)險(xiǎn),目前國內(nèi)外已經(jīng)有不少業(yè)內(nèi)企業(yè)著手建設(shè)人工智能安全平臺(tái),以提升對(duì)于威脅的檢測(cè)和響應(yīng)能力??傮w來看,只有在合理的監(jiān)管和治理之下,人工智能技術(shù)才能更好地為人服務(wù)。