美國(guó)《國(guó)會(huì)山》網(wǎng)站在近日的報(bào)道中指出,ChatGPT這類生成式人工智能(AI)的爆炸式增長(zhǎng),以及由此帶來(lái)的一些諸如虛假信息泛濫、偏見(jiàn)、改變勞動(dòng)力結(jié)構(gòu)等混亂,引發(fā)了美國(guó)聯(lián)邦政府的擔(dān)憂,立法者和監(jiān)管機(jī)構(gòu)希望采取切實(shí)行動(dòng),消弭這些擔(dān)憂。
引發(fā)兩大關(guān)鍵問(wèn)題
《國(guó)會(huì)山》網(wǎng)站報(bào)道稱,AI的發(fā)展可能會(huì)引發(fā)兩大關(guān)鍵問(wèn)題。
一方面,最近生成式AI工具的興起帶來(lái)了與虛假信息傳播有關(guān)的問(wèn)題。另一方面,為自動(dòng)化系統(tǒng)提供動(dòng)力的AI可能會(huì)導(dǎo)致歧視。
英國(guó)《新科學(xué)家》雜志也指出,ChatGPT和其他聊天機(jī)器人經(jīng)常出現(xiàn)事實(shí)性錯(cuò)誤,引用完全虛構(gòu)的事件或文章,在案例中編造性騷擾丑聞、誣告真人等。ChatGPT的使用也導(dǎo)致了數(shù)據(jù)隱私丑聞,涉及公司機(jī)密數(shù)據(jù)的泄露。另外,AI生成的圖像、音頻甚至視頻也可能導(dǎo)致大規(guī)模的“深度造假”信息,美國(guó)前總統(tǒng)特朗普被捕和教皇方濟(jì)各穿著時(shí)尚白色羽絨服的虛假AI合成照片就證明了這一點(diǎn)。
加強(qiáng)執(zhí)法呼聲高漲
美國(guó)聯(lián)邦貿(mào)易委員會(huì)、司法部民權(quán)司、消費(fèi)者金融保護(hù)局和平等就業(yè)機(jī)會(huì)委員會(huì)(EEOC)近日發(fā)表了一份聯(lián)合聲明稱,鑒于AI越來(lái)越多地用于從住房到醫(yī)療保健在內(nèi)的一系列服務(wù),他們承諾加強(qiáng)現(xiàn)有法律的執(zhí)行強(qiáng)度,包括旨在解決AI可能會(huì)出現(xiàn)的歧視問(wèn)題,并制定關(guān)于發(fā)展規(guī)則的新法規(guī)。
EEOC主席夏洛特·伯羅斯表示,包括AI在內(nèi)的先進(jìn)技術(shù)的使用必須符合聯(lián)邦法律。
當(dāng)然,這些機(jī)構(gòu)的聯(lián)合聲明主要集中于使用AI的自動(dòng)化系統(tǒng),而不是像ChatGPT這樣的生成式AI。
《國(guó)會(huì)山》網(wǎng)站在報(bào)道中指出,即便如此,隨著ChatGPT等聊天機(jī)器人人氣飆升,谷歌和其他公司也不斷推出與之競(jìng)爭(zhēng)的新產(chǎn)品,此外,包括特斯拉和推特首席執(zhí)行官埃隆·馬斯克等在內(nèi)的一批企業(yè)家也競(jìng)相涌入該行業(yè),由此可能引發(fā)的喧嘩與騷動(dòng),也凸顯了政策制定者迫切需要采取相關(guān)措施。
要應(yīng)對(duì)AI帶來(lái)的風(fēng)險(xiǎn),美國(guó)國(guó)會(huì)將權(quán)衡制定新法規(guī),各機(jī)構(gòu)也應(yīng)加大執(zhí)行現(xiàn)有法律的力度。因?yàn)榧词乖诂F(xiàn)有法律適用的地方,由于AI系統(tǒng)的工作方式,也可能很難執(zhí)行這些法律。例如,算法招聘工具可能會(huì)導(dǎo)致歧視,但員工很難知道自己是否受到了系統(tǒng)的歧視。因此各機(jī)構(gòu)需要解決的問(wèn)題不僅在于如何應(yīng)用法律,還要考慮如何應(yīng)對(duì)執(zhí)法過(guò)程中帶來(lái)的挑戰(zhàn),以及了解這些AI系統(tǒng)對(duì)現(xiàn)實(shí)世界將產(chǎn)生怎樣的影響等等。
負(fù)責(zé)民權(quán)事務(wù)的助理司法部部長(zhǎng)克里斯汀·克拉克也強(qiáng)調(diào)稱,在當(dāng)今社會(huì)出現(xiàn)的各種歧視問(wèn)題上,AI構(gòu)成了很大的威脅,這些問(wèn)題需要政策制定者和其他人進(jìn)行更深入的研究和審查。
安全管理勢(shì)在必行
美國(guó)參議員本月早些時(shí)候公布了一項(xiàng)提案,提出將為AI監(jiān)管建立一個(gè)框架,旨在提高透明度并加強(qiáng)問(wèn)責(zé)。除此之外,立法者還準(zhǔn)備采取行動(dòng),就AI技術(shù)興起的相關(guān)風(fēng)險(xiǎn)向行業(yè)施壓。
參議院情報(bào)委員會(huì)最近致信ChatGPT的開(kāi)發(fā)商O(píng)penAI、元宇宙平臺(tái)公司、谷歌、Anthropic和微軟等科技公司首席執(zhí)行官,詢問(wèn)他們?cè)陂_(kāi)發(fā)大規(guī)模AI模型時(shí)如何應(yīng)對(duì)安全風(fēng)險(xiǎn)。
信中寫(xiě)道,隨著AI在大部分領(lǐng)域越來(lái)越多地使用,以及大型語(yǔ)言模型有可能穩(wěn)步集成到從醫(yī)療保健到金融部門(mén)的一系列現(xiàn)有系統(tǒng)中,迫切需要強(qiáng)調(diào)AI使用過(guò)程中的安全性問(wèn)題。
針對(duì)一些參議員提出的如何利用AI等問(wèn)題,美國(guó)消費(fèi)者技術(shù)協(xié)會(huì)的一位發(fā)言人表示,該協(xié)會(huì)一直在與其成員“為AI政策、標(biāo)準(zhǔn)和框架制定作出貢獻(xiàn)”。
美國(guó)軟件聯(lián)盟負(fù)責(zé)美國(guó)政府關(guān)系的副總裁克雷格·奧爾布賴特則表示,國(guó)會(huì)可以要求公司制訂風(fēng)險(xiǎn)管理計(jì)劃,對(duì)AI的高風(fēng)險(xiǎn)使用進(jìn)行風(fēng)險(xiǎn)評(píng)估,并定義何為高風(fēng)險(xiǎn)案例,而公司則需要開(kāi)展影響評(píng)估和設(shè)計(jì)評(píng)估,以確保他們做正確的事。
相關(guān)稿件