AI提供假證！65歲老人含冤入獄近一年，兩次患上新冠險些自殺
含冤入獄近一年！
一名65歲的黑人男性被控槍殺25歲男廚師。
案發現場沒有目擊者，沒有兇器，也沒有殺人動機。
唯一的入獄證據就只有AI識別出的槍聲。
不到一年的時間，他在獄中兩次感染新冠肺炎，留下了雙手顫抖的后遺癥。
從每天能給妻子打三個電話，到每周只有幾小時的通話時間，險些就打算在獄中服藥了結自己的生命。
但幸好，他在上個月因證據不足而釋放，以自由人的身份重回高墻之外。
大難不死，未必有福
據受害人家屬稱，受害者Safarian Herring是一位有著雄心壯志的廚師，希望日后能夠做出一番成就。
但事情總是來得那么突然。
去年8月，「黑命貴」事件引發了很多社區騷亂事件。
就在某個深夜，邁克爾·威廉姆斯打算在當地的一家加油站買煙，加油站卻在騷亂中遭到洗劫。正打算直接開車回家，威廉姆斯在路上卻遇到了希望搭便車的受害者Herring。
兩人的悲劇就此發生。
涉事加油站
根據威廉姆斯的證供，在開車途中，兩人在十字路口遭到另一輛車的槍擊，Herring中槍流血，威廉姆斯馬上送他去附近的醫院。
但可惜，Herring沒能扛過去，不治身亡。
很幸運，威廉姆斯沒有被子彈擊中，但他的不幸才剛剛開始。
邁克爾·威廉姆斯
當地社區安裝了ShotSpotter系統，這個系統提供的證據稱，威廉姆斯就是殺害Herring的兇手。
ShotSpotter取證報告
這是一個能夠使用聲學傳感器和AI算法來幫助警方檢測目標地理區域槍聲的系統。
ShotSpotter公司在大約25年前成立，自稱是「精確警務技術解決方案的領導者，使執法部門能夠更有效地應對、調查和威懾犯罪」。
ShotSpotter官網首頁
但諷刺的是，ShotSpotter將案發現場的這個巨大聲響識別為煙花爆竹，置信度還高達98%。并且將地址定位到5700 S 湖濱大道。
然而不到一分鐘，一名員工推翻了系統的判斷，將聲音重新分類為一聲槍響。
隨后，經過「后期處理分析」，聲音的定位被轉移到了威廉姆斯正在行駛的區域，芝加哥南石島大道和東63街的十字路口。
（1）AI最初識別位置；（2）人工分析之后修正位置
就這樣，警方依據ShotSpotter的「證供」，將威廉姆斯拘捕入獄。
位于事發十字路口的ShotSpotter設備
AI提供的入獄證據，可信嗎？
對于此次事件，ShotSpotter公司認為，它曾警告檢察官不要依靠其技術來檢測車輛或建筑物內的槍聲。
但ShotSpotter拒絕透露，在威廉姆斯近一年的監禁期間，公司是在什么時候與檢察官取得聯系的。
也拒絕透露，鑒于該系統難以識別封閉空間內的槍聲，ShotSpotter為什么要為據稱是在威廉姆斯的車內發射的槍聲準備一份法證報告。
該報告本身包含矛盾的信息，表明該技術事實上在汽車內是有效的。
ShotSpotter首席執行官Clark拒絕對此案發表評論，但在一份后續聲明中，該公司含糊其辭地表示：在 「某些條件下」，該系統實際上可以識別車內槍聲。
威廉姆斯的律師Max說，檢察官從未向他透露過這些信息，而是在他傳喚ShotSpotter公司與州檢察官的通信兩個月后撤銷了指控。
芝加哥警察局在使用預測和跟蹤ShotSpotter技術工作
今年4月，一篇研究考察了1999年至2016年68個縣的ShotSpotter系統，這也是迄今為止最大的一次調查。
ShotSpotter聲稱可以利用傳感器、算法和人工智能，將其專有數據庫中的1400萬個聲音分類為槍聲或其他聲音，以減少槍支暴力。
但研究結果卻發現，這項技術并沒有減少槍支暴力，也沒有提高社區安全。
垃圾箱、卡車、摩托車、直升機、煙花、垃圾收集，甚至是教堂的鐘聲，都會讓ShotSpotter誤以為這些聲音是槍聲。
但面對真正的槍聲，ShotSpotter卻沒法識別出來。
在2016年的案件中，一名紐約男子Silvon Simmons在羅切斯特警察攔下他所乘坐的車輛后被槍殺。
警察聲稱Simmons先向他們開槍，現場卻沒有實物證據證明這一說法。
而ShotSpotter最初并沒有報告在現場發現任何槍聲，它將槍聲歸類為「直升機旋翼」。
當警方找到該公司時，該公司的一名分析師最終認定，這些旋翼的聲音實際上是四聲槍響——也就是警方向Simmons開槍的次數。
警察要求分析師識別有沒有其它槍聲。這時，他發現了第五個槍聲。
Simmons針對ShotSpotter和警察局的民事訴訟摘錄
最終，陪審團宣告Simmons謀殺未遂，法官推翻了他持有槍支的定罪，理由是ShotSpotter不可靠。
而在今年3月29日凌晨2點30分左右，21歲的魯本·羅曼開槍射擊，ShotSpotter卻將該槍聲定位在13歲亞當·托萊多 (Adam Toledo) 所在的位置。
警方對托萊多進行追捕，最終開槍擊斃了這個手無寸鐵的13歲男孩。
視頻顯示警方命令托萊多停下來并舉高雙手
此外，在2017年舊金山的一起謀殺案審判中，一名分析師將其最初的警報地點移到了一個街區之外，突然就與犯罪現場相匹配了。
游戲規則的改變者
這項技術已經在美國大大小小約120個城市安裝，每年每平方英里的成本高達95,000美元。
ShotSpotter數據越來越多地用于法庭案件，檢測嫌疑人是否在犯罪現場或現場附近，該公司聲稱其證據已用于近200起法庭案件。
該系統通常是應當地官員的要求安裝在被認為是槍支暴力風險最高的社區，而這些社區往往聚集了許多黑人和拉丁裔。
ShotSpotter系統的聲學傳感器會被安裝在建筑物、電線桿和路燈上。其工作原理如下：
- 當槍聲爆發時，聲音會向外輻射。多個傳感器對聲音進行檢測和時間標記，并對其位置進行三角定位。
- ShotSpotter的算法對其傳感器接收到的聲音類型進行分類，如槍聲或鞭炮聲。
- 一旦警報生成，就會發送給審查中心的工作人員，他們會分析每一個警報，判斷該聲音是否是槍聲。
- 之后，警報被發送到警方，警方派遣警察到現場。
ShotSpotter的工作原理示意圖
不過，公司表示不會公布ShotSpotter的算法和傳感器的位置。
此外，公司還屏蔽了系統的內部數據和記錄，使其他人無法了解其工作原理的具體細節。
近年來，ShotSpotter公司的知名度不斷提高。
美國政府在包括ShotSpotter在內的槍擊檢測系統上花費了超過690萬美元的可支配撥款和專項資金。
各州和地方政府還花費了數百萬美元，從聯邦稅收的單獨資金中購買該系統。
ShotSpotter官網描述
執法官員說，ShotSpotter能讓警察更快到達犯罪現場，并幫助現金緊張的公共安全機構更好地部署資源。
俄亥俄州托萊多市警察局長在芝加哥舉行的2019年國際警察局長協會會議上說：「ShotSpotter已成為我們解決槍支暴力問題的最重要工具之一」。
潛在問題
ShotSpotter公司說，他們在不斷地微調其機器學習模型，通過讓偵探和調查員向其系統添加犯罪現場的觀察結果來識別什么是槍聲和什么不是槍聲。
作為這一過程的一部分，他們稱之為「基準真相」，ShotSpotter要求巡邏人員使用其軟件添加和記錄彈殼、彈孔，收集證人證詞和其他「槍聲證據」。
ShotSpotter公司首席執行官Ralph Clark
Clark表示：「我們有機會使機器分類越來越好，因為我們從人類那里得到了真實世界的反饋。」
然而，有多位專家警告說：「如果警察有意或者無意中，提交了不完整或不正確的數據，那么由此就會訓練出錯誤的模型。」
喬治敦法學院隱私與技術中心的Clare Garvie說：「ShotSpotter在該系統中建立了一個固有的不確定性，而且還告訴系統這些數據沒有問題，因此污染了系統的可靠性。」
