每(mei)經記(ji)者｜李孟林    每(mei)經編(bian)輯｜蘭(lan)素英     

據媒(mei)體3月2日(ri)報道，蘋果公司上周阻止(zhi)了一款使(shi)用ChatGPT功能的電郵應(ying)用的更(geng)新，因為擔心其可能生(sheng)成(cheng)不適合青少年兒童(tong)的內(nei)容。

如何(he)避(bi)免AI做出違反倫理(li)道德的回(hui)答一直是生成式(shi)AI面臨(lin)的挑戰(zhan)。

而在上述報(bao)道(dao)的前一(yi)(yi)天，OpenAI推出了官方的ChatGPT應(ying)用程序(xu)接口（API），成本直(zhi)降90%，且比ChatGPT及其背后的GPT-3.5 模型“更快、更準(zhun)確、更強(qiang)大”。OpenAI同時還推出了語音轉(zhuan)文(wen)字的Whisper API，一(yi)(yi)分鐘(zhong)只需要(yao)0.006美元。

OpenAI表示，公司(si)在ChatGPT API中引入(ru)了(le)新的語言(yan)，希望能通過(guo)加入(ru)更多提示限制來過(guo)濾不當內容。 

圖片來(lai)源：視覺(jue)中國-VCG111421680440 

出于內容擔憂，蘋果暫停一應用更新

面(mian)對(dui)生(sheng)成(cheng)式AI熱(re)潮，蘋(pin)果(guo)似乎要小心謹慎得多(duo)。據(ju)路透社報道，蘋(pin)果(guo)上周阻止(zhi)了采用ChatGPT功能的電(dian)郵應用程(cheng)序BlueMail的更新(xin)，因為(wei)擔(dan)心其產(chan)生(sheng)對(dui)青少年兒童不當的內容。

據悉(xi)，BlueMail的新AI功能以ChatGPT為基礎，能夠基于先前電郵的內容和(he)日歷事件自動編寫郵件。

“你的應用程序包含人工智能(neng)生成的內容，但(dan)目前(qian)似乎不包含內容過濾，”蘋果(guo)應用程序審查團隊(dui)上周在給開發者的消(xiao)息中表示。

應用程序(xu)審查團隊(dui)認為，BlueMail要么(me)將其年齡(ling)限制提高到17 歲及以(yi)上，要么(me)加入內(nei)容(rong)過濾程序(xu)。蘋果(guo)設置17歲及以(yi)上用戶的年齡(ling)限制針(zhen)對的是可能包含(han)攻擊性語(yu)言(yan)、性內(nei)容(rong)和提及毒品等內(nei)容(rong)的應用程序(xu)類別。

BlueMail開發公司Blix Inc.的(de)聯合(he)創始人Ben Volach表(biao)示，BlueMail具(ju)有內容過濾的(de)功(gong)能(neng)，目前將年齡設置在4歲(sui)及以(yi)上(shang)。Volach認為(wei)蘋果的(de)做(zuo)法(fa)不公平，因為(wei)其他包含類似(si)AI功(gong)能(neng)的(de)應用沒(mei)有設置年齡限制卻得(de)到了批準。

“Apple讓(rang)我們很難為用(yong)戶帶來(lai)創新(xin)，”他表示(shi)，“我們要(yao)的(de)(de)是公(gong)平(ping)。如果我們要(yao)設(she)置17歲以上的(de)(de)年齡限(xian)制，其(qi)他應用(yong)也該如此。”他同時(shi)稱，BlueMail的(de)(de)安卓(zhuo)版(ban)在谷歌應用(yong)市場就可(ke)以更(geng)新(xin)，無需(xu)設(she)置年齡限(xian)制，也不需(xu)要(yao)進一(yi)步的(de)(de)內容過濾機制。

蘋(pin)果(guo)(guo)發言人表示(shi)，開(kai)發者可通過蘋(pin)果(guo)(guo)應用程序審查委員會的上訴(su)程序發起申訴(su)，蘋(pin)果(guo)(guo)方面正在(zai)調查Blix的申訴(su)。

投資了(le)ChatGPT開發公司OpenAI的微軟(ruan)近日上(shang)線了(le)融合ChatGPT功能的新版搜索引擎(qing)必應。該程序在蘋果應用(yong)市場設(she)置(zhi)了(le)17歲(sui)(sui)及以(yi)(yi)上(shang)的年齡限制(zhi)，但也(ye)沒(mei)有在谷歌應用(yong)市場設(she)置(zhi)年齡限制(zhi)。微軟(ruan)發言人(ren)表示，之所以(yi)(yi)設(she)置(zhi)17歲(sui)(sui)及以(yi)(yi)上(shang)的年齡限制(zhi)，是因為必應可以(yi)(yi)找到成人(ren)內容。

ChatGPT API新模型有望更好過濾內容

在(zai)媒體爆出蘋(pin)果限制BlueMail更新的前一天，OpenAI宣布推出ChatGPT以及語音轉換文(wen)本(ben)模型(xing)Whisper的應(ying)用(yong)程(cheng)序接口(kou)（API）。兩個API價格低廉，功能強大(da)，第三方開發人(ren)員可以通(tong)過(guo) API 的方式(shi)將(jiang) ChatGPT 集成到他(ta)們的應(ying)用(yong)程(cheng)序和服務中。

據OpenAI，ChatGPT API接入的(de)(de)模(mo)型名為(wei) gpt-3.5-turbo，這是(shi)許多非聊天(tian)用(yong)(yong)例的(de)(de)最佳模(mo)型，而且比(bi) ChatGPT 和背后(hou)的(de)(de)GPT- 3.5 模(mo)型“更快(kuai)、更準確、更強大”，且每輸出100萬個單詞，價格(ge)才2.7美元（約18元人民幣(bi)），比(bi)之前的(de)(de)GPT-3.5便宜了10倍(bei)。Whisper API可以用(yong)(yong)來(lai)轉錄或翻譯(yi)音(yin)頻，費用(yong)(yong)為(wei)每分(fen)鐘0.006美元。

目(mu)前，已經有(you)多(duo)個應用程序通過API的方式把(ba)ChatGPT和Whisper融(rong)入到服務(wu)之中，如社交軟件(jian)(jian)SnapChat，購物軟件(jian)(jian)Instacart，學習軟件(jian)(jian)Quizlet和Speak等(deng)。

此(ci)前，ChatGPT爆(bao)火(huo)之后，各(ge)種(zhong)「自制(zhi)API」層出不窮，但效(xiao)果(guo)欠(qian)佳且成本較高。此(ci)次(ci)OpenAI開放(fang)官方的低價API，為(wei)各(ge)類中小型開發者打開了新的大門。

官方API雖然在功能和價格(ge)上(shang)又(you)上(shang)了一層樓，但在ChatGPT API推出(chu)后，有(you)網友馬上(shang)發現，這個API的(de)內容過濾機制(zhi)是比較松散的(de)，可以生成(cheng)暴力和色情內容，只是對“如(ru)何(he)制(zhi)造炸彈”一類的(de)問題拒絕(jue)回答。

實(shi)際上，圍繞(rao)生成(cheng)式AI的(de)道(dao)德爭(zheng)議(yi)一直是OpenAI面臨的(de)挑戰。此前就有用(yong)戶引導ChatGPT生成(cheng)種族和性別歧視的(de)回答(da)，更有許多網友聚(ju)在一起做“越獄”嘗試，希望找出(chu)繞(rao)過(guo)OpenAI的(de)安全(quan)機(ji)制，讓(rang)ChatGPT執行超出(chu)其原初目標的(de)任務(wu)。比如，初創(chuang)公(gong)司Scale AI的(de)一名員工就曾讓(rang)ChatGPT透露(lu)了其內部的(de)技術細節信息。

對于重視(shi)品牌形象的客戶而(er)言，這(zhe)樣(yang)的風險(xian)當然是必(bi)須回避的。OpenAI在這(zhe)方面也做了很多工作(zuo)，除了讓廉(lian)價的肯尼亞工廠做數據(ju)標注外，在技(ji)術(shu)上也做了一(yi)些努(nu)力。

據(ju)科技(ji)媒(mei)體TechCrunch報道，ChatGPT的API采用了(le)一(yi)種名為Chat Markup Language（ChatML）的語言，這(zhe)種語言將輸入(ru)(ru)文本視為一(yi)連串信息和“元數據(ju)”的結(jie)合。開發者在接收提(ti)(ti)問(wen)提(ti)(ti)示(shi)（prompt）時，可以加入(ru)(ru)額外的提(ti)(ti)示(shi)，如“你(ni)需要誠(cheng)實回(hui)答”，或者“你(ni)只(zhi)是一(yi)個機器人”。這(zhe)些(xie)額外提(ti)(ti)示(shi)可以讓ChatGPT更好地過濾(lv)生成(cheng)的內容(rong)。

“我們正在轉向一種更高級的(de)API。如(ru)果你(ni)能夠以更加(jia)結(jie)構化的(de)方式將輸入內容放(fang)進系統(tong)，比如(ru)‘這是來(lai)自(zi)開發者(zhe)’或者(zhe)‘這是來(lai)自(zi)用戶’……我想，作(zuo)為開發者(zhe)，你(ni)（使用ChatML）可以更好地抵御那些通過提示進行攻擊的(de)行為，”OpenAI的(de)主席(xi)和董事(shi)長Greg Brockman表示。

此外，ChatGPT API還向(xiang)用戶(hu)(hu)提供(gong)付(fu)費的(de)(de)(de)(de)專屬(shu)算力（Dedicated capacity），付(fu)錢的(de)(de)(de)(de)大公司不(bu)僅(jin)可(ke)以(yi)擁(yong)有更加流(liu)暢快速的(de)(de)(de)(de)應(ying)答(da)，還可(ke)以(yi)獲得更高(gao)的(de)(de)(de)(de)文字(zi)輸入上限，這樣可(ke)以(yi)讓ChatGPT記住更多的(de)(de)(de)(de)上下文提示，將減少回答(da)中的(de)(de)(de)(de)偏見和(he)有害內(nei)容。據Brockman，專屬(shu)算力用戶(hu)(hu)可(ke)以(yi)在gpt-3.5-turbo模型中輸入高(gao)達1.6萬的(de)(de)(de)(de)token，是現有標(biao)準(zhun)ChatGPT模型的(de)(de)(de)(de)四(si)倍。

封面圖片來源：視覺(jue)中(zhong)國-VCG111421680440