人工智能(AI)是指在機(jī)器上模擬人類的智能，這些機(jī)器通過編程可以像人類一樣思考和行動。AI技術(shù)使計(jì)算機(jī)能夠執(zhí)行通常需要人類智能的任務(wù)，例如視覺感知、語音識別、決策和語言翻譯。

美國中佛羅里達(dá)大學(xué)工業(yè)工程與管理系統(tǒng)系助理教授Ozlem Garibay領(lǐng)導(dǎo)進(jìn)行了一項(xiàng)研究，確定了人類必須克服的六大AI挑戰(zhàn)，以改善人類與AI的關(guān)系，并保證其道德和公平的使用。

Garibay和其他26名科學(xué)家共同進(jìn)行了一項(xiàng)研究，確定了人類必須解決的問題和挑戰(zhàn)，以確保AI是可靠、安全以及值得信賴，并符合人類的價(jià)值觀。

這項(xiàng)研究報(bào)告已經(jīng)發(fā)表在《國際人機(jī)交互》雜志上。以下是該研究團(tuán)隊(duì)確定的人類面臨的AI六大挑戰(zhàn)：

挑戰(zhàn)一：人類福祉

AI應(yīng)該能夠發(fā)現(xiàn)有利于人類福祉的實(shí)施機(jī)會。在與AI交互時，它還應(yīng)該考慮到支持用戶的福祉。

挑戰(zhàn)二：負(fù)責(zé)任

負(fù)責(zé)任的AI是指在AI生命周期中優(yōu)先考慮人類和社會福祉的概念。這確保了AI的潛在利益以符合人類價(jià)值觀和優(yōu)先事項(xiàng)的方式得到利用，同時也減輕了意外后果或違反道德的風(fēng)險(xiǎn)。

挑戰(zhàn)三：隱私保護(hù)

應(yīng)該仔細(xì)考慮AI系統(tǒng)中數(shù)據(jù)的收集、使用和傳播，以確保保護(hù)個人隱私，防止對個人或群體的有害使用。

挑戰(zhàn)四：設(shè)計(jì)框架

AI系統(tǒng)的以人為本的設(shè)計(jì)原則應(yīng)該使用可以為從業(yè)者提供明確信息的框架。該框架將區(qū)分風(fēng)險(xiǎn)極低的AI、不需要采用特殊措施的AI，風(fēng)險(xiǎn)極高的AI以及禁止使用的AI。

挑戰(zhàn)五：治理和監(jiān)督

需要考慮從概念到開發(fā)到部署的AI生命周期的整個治理框架。

挑戰(zhàn)六：人類與AI的互動

為了促進(jìn)人類與AI系統(tǒng)之間的道德和公平的關(guān)系，人類與AI之間的互動必須基于尊重人類認(rèn)知能力的基本原則。具體來說，人類必須對AI系統(tǒng)的行為和結(jié)果保持完全的控制和責(zé)任。

這項(xiàng)研究歷時20多個月的時間，匯集了26位在AI技術(shù)領(lǐng)域擁有不同背景的國際專家的觀點(diǎn)。

Garibay說：“這些挑戰(zhàn)要求創(chuàng)造以人為本的AI技術(shù)，優(yōu)先考慮道德、公平和提高人類福祉。這些挑戰(zhàn)敦促采用以人為本的方法，包括負(fù)責(zé)任的設(shè)計(jì)、隱私保護(hù)、堅(jiān)持以人為本的設(shè)計(jì)原則、適當(dāng)?shù)闹卫砗捅O(jiān)督，以及與人類認(rèn)知能力的相互尊重。”

總的來說，這些挑戰(zhàn)呼吁科學(xué)界采取行動，開發(fā)和實(shí)施優(yōu)先考慮并造福人類的AI技術(shù)。