本文轉(zhuǎn)載自公眾號(hào)“讀芯術(shù)”(ID：AI_Discovery)

技術(shù)倫理是個(gè)永恒的話題。筆者常常思考這樣的問題，計(jì)算機(jī)科學(xué)家是如何將倫理內(nèi)容與價(jià)值觀編碼到機(jī)器學(xué)習(xí)算法中的，機(jī)器學(xué)習(xí)設(shè)計(jì)師又該怎樣更好地了解自己的設(shè)計(jì)會(huì)給社會(huì)帶來的影響。

[[327098]]

如果一位機(jī)器學(xué)習(xí)工程師設(shè)計(jì)了更加公平公正的決策系統(tǒng)，那他們對(duì)公平公正的定義是什么?他們會(huì)選擇什么評(píng)估指標(biāo)對(duì)其進(jìn)行優(yōu)化?選擇另一種指標(biāo)或定義會(huì)造成什么樣的社會(huì)影響?筆者認(rèn)為，研究算法嵌入式社會(huì)問題的潛在危害是必要的，比如價(jià)值權(quán)衡、設(shè)計(jì)機(jī)器學(xué)習(xí)系統(tǒng)時(shí)發(fā)生價(jià)值沖突的應(yīng)對(duì)方法。

這也正是筆者九個(gè)月前申請(qǐng)美國(guó)國(guó)家自然基金會(huì)(GRPF)博士時(shí)提出的研究倡議，但很遺憾，申請(qǐng)被拒絕了。

問題出在哪兒?從院士們的回復(fù)來看，一切都挺好的，但除了一點(diǎn)“這更像社會(huì)學(xué)研究而非計(jì)算機(jī)科學(xué)(CS)。”或許申請(qǐng)人類學(xué)領(lǐng)域要比CS更合適，這又牽扯到了另一件事，社會(huì)科學(xué)與計(jì)算機(jī)科學(xué)的互不關(guān)聯(lián)，是計(jì)算機(jī)領(lǐng)域的標(biāo)志性歷史遺留問題。

反復(fù)讀回信后，我開始考慮這些話的含意。腦中浮現(xiàn)了幾個(gè)問題：

• 社會(huì)科學(xué)和計(jì)算機(jī)科學(xué)之間的關(guān)系為何?
• 計(jì)算機(jī)科學(xué)在社會(huì)中應(yīng)扮演什么樣的角色?
• 如果繼續(xù)將二者分開看待，未來可能會(huì)發(fā)生什么?

技術(shù)的真正目的是什么，技術(shù)在我們生活中到底扮演著怎樣的角色，作為計(jì)算機(jī)科學(xué)家是如何改變并塑造社會(huì)的?讓我們一點(diǎn)點(diǎn)掀起技術(shù)的面紗，探索技術(shù)與社會(huì)的終極奧義。

1.社會(huì)科學(xué)和計(jì)算機(jī)科學(xué)的區(qū)別

技術(shù)滲透著社會(huì)的各個(gè)角落，并且應(yīng)用比以往更加頻繁。當(dāng)下，社會(huì)是以線上形式運(yùn)轉(zhuǎn)的。所有聯(lián)系都會(huì)借助寬帶。群體之間是通過0 和1聯(lián)系起來，它們構(gòu)建起通向未來之路。

所以社會(huì)科學(xué)和計(jì)算機(jī)科學(xué)的關(guān)系是什么?

“技術(shù)不僅會(huì)幫助人類活動(dòng)，也是重塑活動(dòng)及意義的重要力量。”——Langdon Winner

數(shù)百萬年來，人類憑借技術(shù)登上食物鏈頂端。發(fā)現(xiàn)問題的時(shí)候技術(shù)便會(huì)誕生，比如我們需要食物維持生命時(shí)，就會(huì)想到火。這些技術(shù)性工具在社會(huì)上會(huì)變得越來越普遍，人們會(huì)改變它們，以意想不到的方式重塑它們。

21世紀(jì)屬于計(jì)算技術(shù)的時(shí)代，我們有了解決問題的新方式，互聯(lián)網(wǎng)讓我們獲得更多信息，智能手機(jī)帶給我們更多的出行機(jī)會(huì)，社交媒體以一種從未有過的方式將我們與世界聯(lián)系起來。社會(huì)進(jìn)程也因此發(fā)生了永久性的變化。

全世界目前因計(jì)算技術(shù)聚到了一起，而互聯(lián)網(wǎng)、智能手機(jī)和社交媒體只是其中的一小部分，但它們已經(jīng)讓人類文化發(fā)生了翻天覆地的改變。事實(shí)上，社交媒體正是人類社會(huì)學(xué)研究下的科學(xué)分支，個(gè)體與個(gè)體間的關(guān)系也存在于這樣的社會(huì)當(dāng)中。

在這種情況下，如果說計(jì)算機(jī)科學(xué)和社會(huì)科學(xué)毫無聯(lián)系根本是胡扯，而我們也很難想象一個(gè)這兩者無根本聯(lián)系的世界。技術(shù)不斷創(chuàng)造，讓世界根據(jù)我們的需求不斷改變。計(jì)算機(jī)科學(xué)占領(lǐng)主要地位，就比如機(jī)器學(xué)習(xí)和人工智能，而隨之而來的社會(huì)性變革的可能是你根本無法想象的。

2.計(jì)算機(jī)科學(xué)在社會(huì)中扮演什么樣的角色?

“全面分析社會(huì)技術(shù)體系必須從方方面面來看，這樣才能綜合性地分辨當(dāng)下存在的問題。”——《計(jì)算機(jī)在社會(huì)變革中的角色》

昨天下午我被安排去給畢業(yè)班講75分鐘的課，內(nèi)容是計(jì)算機(jī)技術(shù)在處理社會(huì)問題時(shí)的角色。班上的大部分都是計(jì)算機(jī)科學(xué)的博士生，主題是以人為本的機(jī)器學(xué)習(xí)。

在讀完“計(jì)算機(jī)在社會(huì)變革中的角色”一文之后，我問他們是否覺得計(jì)算機(jī)技術(shù)需要擔(dān)負(fù)解決社會(huì)問題的責(zé)任。他們的見解和有趣：

一名同學(xué)提到技術(shù)本身不需要一定給社會(huì)帶來積極改變，起作用的在于人，人們既然要?jiǎng)?chuàng)造技術(shù)，就要一直創(chuàng)造，而且是抱著為社會(huì)造福的態(tài)度;另一位同學(xué)問技術(shù)是否應(yīng)該用于解決社會(huì)問題，他覺得技術(shù)不應(yīng)讓歧視和不公平這種社會(huì)問題一直存在，但也無需為解決這種潛在問題負(fù)責(zé)。

我們一致認(rèn)為計(jì)算機(jī)技術(shù)不應(yīng)是為解決社會(huì)問題，相反，應(yīng)作為社會(huì)的一部分。其實(shí)就是計(jì)算機(jī)科學(xué)會(huì)讓問題一直存在但同時(shí)也能解決它們。

我們討論了計(jì)算機(jī)科學(xué)，特別是機(jī)器學(xué)習(xí)系統(tǒng)會(huì)如何在發(fā)展中改變社會(huì)。為得到評(píng)估成功的指標(biāo)，我們選用數(shù)據(jù)來訓(xùn)練模型，從這些數(shù)據(jù)來看，機(jī)器學(xué)習(xí)的設(shè)計(jì)決策是基于社會(huì)科學(xué)的。

回到開頭那封信，讀回信并沒有耗費(fèi)一整天的時(shí)間，我咨詢了一些新興的計(jì)算機(jī)科學(xué)專家，想看他們是如何理解社會(huì)科學(xué)與計(jì)算機(jī)科學(xué)之間的關(guān)系。他們的回應(yīng)一致，都認(rèn)為二者是存在根本聯(lián)系的。

3.假如依舊將社會(huì)科學(xué)與計(jì)算機(jī)科學(xué)分開對(duì)待，會(huì)發(fā)生什么?

獲得軟件工程的本科學(xué)位后，我需要學(xué)習(xí)計(jì)算機(jī)倫理道德課程，這個(gè)課程叫做“職業(yè)責(zé)任”。

這門課讓我第一次懂得技術(shù)對(duì)社會(huì)的幫助與危害，它改變了我對(duì)技術(shù)在自己生活中角色的認(rèn)知，同樣也改變了職業(yè)軌道。

在聽課之前，我從沒想過道德、公平、公正和不平等這樣的社會(huì)問題是與計(jì)算機(jī)科學(xué)息息相關(guān)的。我上過很多專業(yè)課，但從未聽到有關(guān)職業(yè)道德的一個(gè)字。我會(huì)花上百個(gè)小時(shí)設(shè)計(jì)算法，可從來不會(huì)想界限在哪里。在我的計(jì)算機(jī)課程中，社會(huì)科學(xué)不是主題。

盡管處于一個(gè)被計(jì)算決策塑造越來越多的世界，但多年來被教導(dǎo)的就是社會(huì)科學(xué)與計(jì)算機(jī)科學(xué)是分開的。

當(dāng)我決定開始修機(jī)器學(xué)習(xí)倫理的博士學(xué)位時(shí)，我告訴自己，這兩者具有非常大的關(guān)聯(lián)，少哪個(gè)都會(huì)非常危險(xiǎn)。

這也是令我擔(dān)憂的地方：如果兩個(gè)領(lǐng)域依舊被視為彼此獨(dú)立，“倫理道德”就會(huì)成為技術(shù)體系的一直都存在的問題，CS課程會(huì)繼續(xù)只擁有一門“道德/職業(yè)責(zé)任”課程，有的甚至沒有，技術(shù)也會(huì)一如既往地不斷給社會(huì)帶來負(fù)面影響。

這就是為什么計(jì)算機(jī)科學(xué)家必須學(xué)習(xí)帶著為社會(huì)負(fù)責(zé)的態(tài)度編碼。申請(qǐng)被拒絕的經(jīng)歷讓我更進(jìn)一步認(rèn)清楚這件事，計(jì)算機(jī)科學(xué)不應(yīng)且離不開人類指導(dǎo)的熱情，是那些不認(rèn)可的人提醒了我，我的工作有多么重要。