威廉姆斯(Robert Williams)住在底特律郊外，今年6月某天在家被警方逮捕，理由是臉部識別軟件認為他涉嫌一起偷竊案——一名黑人闖入珠寶店，偷走了一些手表。閉路電視攝像頭只拍到一點點嫌犯，而且非常不清楚。雖然警方知道，他們所使用的臉部識別軟件有高達96%的錯誤率，而且軟件也顯示，對威廉姆斯只有六七成的把握，警方依舊去逮捕他，而且將之拘留了30個小時，直到他被證明無辜。這個事件曝露了AI的偏差，認為大多數的嫌犯可能是寬鼻梁、低眉毛，從偏見出發，導致臉部識別軟件錯誤百出。

AI怎么可能有偏見？麥克阿瑟“天才獎”得主Trevor Paglen 今年9月在倫敦佩斯畫廊(Pace)的個展直接面對這個問題。從AI的訓練過程出發，探討“受訓過”的AI如何反映并延續了種族主義、父權制和階級分化等社會不平等。不論是治安單位，還是大型企業，利用AI做臉部識別以及監控可能導致什么危險。

被Artnet 稱為“超級英雄式的實證主義藝術家”，Paglen的專長是透過看得見，來調查看不見的。他不但為了親眼看到埋在海底的網路電纜而去學潛水，還由于對美國公安局的“深入觀察”，參與斯諾登紀錄片《第四公民》（Citizenfour）的拍攝。 他在佩斯畫廊展覽的主題是《盛開》。“這是我在今年春天，當世界充滿危機，充滿了恐懼悲傷時創作的。疫情不但揭露生命的脆弱，也揭露出制度的脆弱。”Paglen在越洋電話中解釋，他所住的紐約雖然像個空城，但春天的花朵壓倒性地綻放，呈現出大自然的爆發力。“在藝術史上，花朵代表了多層的意義，既可能象征脆弱，生命的短暫，也能夠代表生命的降臨。”然而，不像在公園所看到的，展覽中花朵看起來相當不自然，尤其是它的顏色。Paglen 解釋，花朵的顏色是AI分析了不同的圖像之后所生成的，是AI眼中而不是現實生活中的顏色。