威廉姆斯(Robert Williams)住在底特律郊外,今年6月某天在家被警方逮捕,理由是臉部識別軟件認為他涉嫌一起偷竊案——一名黑人闖入珠寶店,偷走了一些手表。閉路電視攝像頭只拍到一點點嫌犯,而且非常不清楚。雖然警方知道,他們所使用的臉部識別軟件有高達96%的錯誤率,而且軟件也顯示,對威廉姆斯只有六七成的把握,警方依舊去逮捕他,而且將之拘留了30個小時,直到他被證明無辜。這個事件曝露了AI的偏差,認為大多數的嫌犯可能是寬鼻梁、低眉毛,從偏見出發,導致臉部識別軟件錯誤百出。
AI怎么可能有偏見?麥克阿瑟“天才獎”得主Trevor Paglen 今年9月在倫敦佩斯畫廊(Pace)的個展直接面對這個問題。從AI的訓練過程出發,探討“受訓過”的AI如何反映并延續了種族主義、父權制和階級分化等社會不平等。不論是治安單位,還是大型企業,利用AI做臉部識別以及監控可能導致什么危險。
被Artnet 稱為“超級英雄式的實證主義藝術家”,Paglen的專長是透過看得見,來調查看不見的。他不但為了親眼看到埋在海底的網路電纜而去學潛水,還由于對美國公安局的“深入觀察”,參與斯諾登紀錄片《第四公民》(Citizenfour)的拍攝。 他在佩斯畫廊展覽的主題是《盛開》。“這是我在今年春天,當世界充滿危機,充滿了恐懼悲傷時創作的。疫情不但揭露生命的脆弱,也揭露出制度的脆弱。”Paglen在越洋電話中解釋,他所住的紐約雖然像個空城,但春天的花朵壓倒性地綻放,呈現出大自然的爆發力。“在藝術史上,花朵代表了多層的意義,既可能象征脆弱,生命的短暫,也能夠代表生命的降臨。”然而,不像在公園所看到的,展覽中花朵看起來相當不自然,尤其是它的顏色。Paglen 解釋,花朵的顏色是AI分析了不同的圖像之后所生成的,是AI眼中而不是現實生活中的顏色。![]()