【第三章：算法的偏見】
逆風(fēng)啟航籃箭天
訓(xùn)練還沒開始，簡(jiǎn)報(bào)室里就彌漫著**味。
“今天的科目是城市環(huán)境下的近距離空中支援與非戰(zhàn)斗人員規(guī)避。”
林瀟指著屏幕，“我們會(huì)在模擬街區(qū)中隨機(jī)投放平民標(biāo)識(shí)，你們的任務(wù)是在保證打擊精度的同時(shí)，確保零誤傷。”
“零誤傷？”
有人低聲嘀咕，“這在有人機(jī)里就是個(gè)傳說。”
“在無人機(jī)里，它應(yīng)該是標(biāo)準(zhǔn)。”
林瀟的語氣不容置疑。
王礪坐在控制臺(tái)前，手指輕輕敲擊著操縱桿。
他知道，城市環(huán)境是最考驗(yàn)技術(shù)的地方，樓群像峽谷，風(fēng)向變幻莫測(cè)，每一個(gè)反射面都可能成為陷阱。
“開始。”
周北川下令。
屏幕上，三架無人機(jī)依次升空，像三只謹(jǐn)慎的燕子，飛入了由數(shù)字和線條構(gòu)成的城市森林。
“一號(hào)機(jī)，目標(biāo)鎖定。”
系統(tǒng)提示。
王礪的目光在多個(gè)屏幕間切換，紅外圖像里，一個(gè)熱源正從一棟廢棄廠房里移動(dòng)出來。
“確認(rèn)目標(biāo)。”
林瀟說，“二號(hào)機(jī)警戒，三號(hào)機(jī)準(zhǔn)備激光照射。”
“等一下。”
王礪突然開口，“那個(gè)熱源的移動(dòng)速度不對(duì)。”
“怎么不對(duì)？”
林瀟問。
“太快了。”
王礪瞇起眼睛，“而且軌跡太……規(guī)則。”
“規(guī)則？”
林瀟看向他，“你是說它像被什么引導(dǎo)著？”
“像。”
王礪點(diǎn)頭，“而且，紅外輪廓有些奇怪，像是……一個(gè)熱源被拼接在另一個(gè)物體上。”
“系統(tǒng)沒有異常提示。”
林瀟說，“算法判斷為高價(jià)值目標(biāo)。”
“算法也會(huì)犯錯(cuò)。”
王礪的聲音壓得很低，“它沒有走過這些街道，沒有聞過這里的油煙味。”
簡(jiǎn)報(bào)室里陷入了短暫的沉默。
所有人都知道，這只是訓(xùn)練，但所有人也都知道，這種情境在現(xiàn)實(shí)中可能隨時(shí)發(fā)生。
“按算法執(zhí)行。”
周北川開口，“這是今天的科目。”
王礪沒有動(dòng)。
他的手指懸在操縱桿上，像一個(gè)即將落下的判決。
“王礪。”
林瀟叫他的名字，“你知道規(guī)則。”
“我知道。”
王礪抬頭，“我也知道，規(guī)則有時(shí)候是為了讓人在關(guān)鍵時(shí)刻有勇氣去打破它。”
“你在質(zhì)疑算法？”
有人問。
“我在質(zhì)疑我們對(duì)算法的**。”
王礪說，“它沒有偏見，但它的訓(xùn)練數(shù)據(jù)有。
它沒有恐懼，但它也沒有憐憫。”
“這不是憐憫的問題，這是戰(zhàn)術(shù)的問題。”
周北川說。
“戰(zhàn)術(shù)最終是人的選擇。”
王礪說。
空氣再次凝固。
每個(gè)人的目光都集中在他的手上。
“給我十秒。”
王礪說，“我可以繞到另一側(cè)，用可見光確認(rèn)。”
“會(huì)暴露。”
林瀟提醒。
“那就暴露。”
王礪說，“寧可讓一臺(tái)機(jī)器暴露，也不能讓一個(gè)無辜的人消失。”
“王礪！”
周北川的聲音第一次帶上了嚴(yán)厲，“這是命令。”
王礪的手指收緊了。
他知道，自己正在靠近那條紅線。
他也知道，一旦越過，后果不堪設(shè)想。
但他更知道，昨天的風(fēng)還沒停。
“抱歉，長(zhǎng)官。”
他低聲說，然后將操縱桿輕輕一推。
一號(hào)機(jī)像一只離弦的箭，突然改變了航線，從一棟高樓的陰影里鉆了出來。
屏幕上，可見光畫面一閃而過——那是一個(gè)被綁在遙控車上的熱源裝置，旁邊，還有一個(gè)被關(guān)在鐵籠里的人形標(biāo)識(shí)。
“停止打擊！”
林瀟幾乎在同一時(shí)間喊了出來。
停止打擊！”
周北川也下達(dá)了命令。
系統(tǒng)發(fā)出了刺耳的警報(bào)，**的導(dǎo)引頭在最后一刻被關(guān)閉。
無人機(jī)掠過目標(biāo)上空，帶起一陣虛擬的風(fēng)。
簡(jiǎn)報(bào)室里一片死寂。
“復(fù)盤。”
周北川打破了沉默。
屏幕上開始回放剛才的每一個(gè)數(shù)據(jù)點(diǎn)。
算法的置信度曲線在最后幾秒內(nèi)急劇上升，幾乎達(dá)到了完美。
然而，在可見光畫面出現(xiàn)的一瞬間，所有的數(shù)據(jù)都顯得蒼白無力。
“算法為什么會(huì)誤判？”
周北川問。
“因?yàn)樵谒氖澜缋铮挥袛?shù)據(jù)。”
林瀟說，“它沒有見過有人會(huì)用這種方式誘騙它。”
“它的訓(xùn)練數(shù)據(jù)里沒有這種樣本。”
王礪補(bǔ)充，“它的偏見來自我們提供給它的世界。”
“所以你認(rèn)為，人應(yīng)該在回路里？”
周北川問。
“我認(rèn)為，人必須在回路里。”
王礪說，“尤其是在城市里，在人的世界里。”
“可你違反了命令。”
周北川看著他，“這是要付出代價(jià)的。”
“是。”
王礪點(diǎn)頭，“我準(zhǔn)備好了。”
簡(jiǎn)報(bào)室里再次安靜下來。
周北川的目光在王礪和林瀟之間來回移動(dòng)，像是在權(quán)衡什么。
“代價(jià)是，”周北川最終開口，“從現(xiàn)在開始，你和林瀟組成固定搭檔。
你們要在一個(gè)月內(nèi)，把今天的‘首覺’變成明天的‘規(guī)則’。”
“規(guī)則？”
王礪有些意外。
“對(duì)。”
周北川點(diǎn)頭，“我們需要一條新的紅線。
一條既能讓機(jī)器發(fā)揮優(yōu)勢(shì)，又能讓人守住底線的紅線。”
“這不容易。”
林瀟說。
“容易的事情，不需要我們。”
周北川說。
會(huì)議結(jié)束后，大多數(shù)人都離開了。
林瀟卻留在控制臺(tái)前，手指在鍵盤上飛快地敲擊。
“你在做什么？”
王礪走過去問。
“我在看**日志。”
林瀟的聲音有些低沉，“我想確認(rèn)一件事。”
“什么事？”
“剛才的模擬，干擾源的特征……和我們昨天遇到的，不完全一樣。”
林瀟說，“像是同一個(gè)家族，但不同的個(gè)體。”
“這意味著什么？”
王礪問。
“意味著，有人在調(diào)整它。”
林瀟說，“而且，調(diào)整得很頻繁。”
“誰？”
“還不知道。”
林瀟搖頭，“但我會(huì)找到的。”
王礪看著她，突然覺得這個(gè)冷靜的女孩身上有一種讓人安心的力量。
“謝謝你剛才的‘停止打擊’。”
他說。
“我只是做了我該做的。”
林瀟說，“你也是。”
“我們會(huì)付出代價(jià)嗎？”
王礪問。
“會(huì)。”
林瀟點(diǎn)頭，“但我們也會(huì)得到回報(bào)。”
“什么回報(bào)？”
“也許是一條新的規(guī)則。”
林瀟說，“也許是一個(gè)新的開始。”
王礪笑了。
“那我們就從今晚開始。”
“從現(xiàn)在開始。”
林瀟糾正。
他們并肩坐在控制臺(tái)前，屏幕上的城市在夜色中安靜下來。
但他們都知道，真正的風(fēng)暴，還在前面。
（第三章完）
“今天的科目是城市環(huán)境下的近距離空中支援與非戰(zhàn)斗人員規(guī)避。”
林瀟指著屏幕，“我們會(huì)在模擬街區(qū)中隨機(jī)投放平民標(biāo)識(shí)，你們的任務(wù)是在保證打擊精度的同時(shí)，確保零誤傷。”
“零誤傷？”
有人低聲嘀咕，“這在有人機(jī)里就是個(gè)傳說。”
“在無人機(jī)里，它應(yīng)該是標(biāo)準(zhǔn)。”
林瀟的語氣不容置疑。
王礪坐在控制臺(tái)前，手指輕輕敲擊著操縱桿。
他知道，城市環(huán)境是最考驗(yàn)技術(shù)的地方，樓群像峽谷，風(fēng)向變幻莫測(cè)，每一個(gè)反射面都可能成為陷阱。
“開始。”
周北川下令。
屏幕上，三架無人機(jī)依次升空，像三只謹(jǐn)慎的燕子，飛入了由數(shù)字和線條構(gòu)成的城市森林。
“一號(hào)機(jī)，目標(biāo)鎖定。”
系統(tǒng)提示。
王礪的目光在多個(gè)屏幕間切換，紅外圖像里，一個(gè)熱源正從一棟廢棄廠房里移動(dòng)出來。
“確認(rèn)目標(biāo)。”
林瀟說，“二號(hào)機(jī)警戒，三號(hào)機(jī)準(zhǔn)備激光照射。”
“等一下。”
王礪突然開口，“那個(gè)熱源的移動(dòng)速度不對(duì)。”
“怎么不對(duì)？”
林瀟問。
“太快了。”
王礪瞇起眼睛，“而且軌跡太……規(guī)則。”
“規(guī)則？”
林瀟看向他，“你是說它像被什么引導(dǎo)著？”
“像。”
王礪點(diǎn)頭，“而且，紅外輪廓有些奇怪，像是……一個(gè)熱源被拼接在另一個(gè)物體上。”
“系統(tǒng)沒有異常提示。”
林瀟說，“算法判斷為高價(jià)值目標(biāo)。”
“算法也會(huì)犯錯(cuò)。”
王礪的聲音壓得很低，“它沒有走過這些街道，沒有聞過這里的油煙味。”
簡(jiǎn)報(bào)室里陷入了短暫的沉默。
所有人都知道，這只是訓(xùn)練，但所有人也都知道，這種情境在現(xiàn)實(shí)中可能隨時(shí)發(fā)生。
“按算法執(zhí)行。”
周北川開口，“這是今天的科目。”
王礪沒有動(dòng)。
他的手指懸在操縱桿上，像一個(gè)即將落下的判決。
“王礪。”
林瀟叫他的名字，“你知道規(guī)則。”
“我知道。”
王礪抬頭，“我也知道，規(guī)則有時(shí)候是為了讓人在關(guān)鍵時(shí)刻有勇氣去打破它。”
“你在質(zhì)疑算法？”
有人問。
“我在質(zhì)疑我們對(duì)算法的**。”
王礪說，“它沒有偏見，但它的訓(xùn)練數(shù)據(jù)有。
它沒有恐懼，但它也沒有憐憫。”
“這不是憐憫的問題，這是戰(zhàn)術(shù)的問題。”
周北川說。
“戰(zhàn)術(shù)最終是人的選擇。”
王礪說。
空氣再次凝固。
每個(gè)人的目光都集中在他的手上。
“給我十秒。”
王礪說，“我可以繞到另一側(cè)，用可見光確認(rèn)。”
“會(huì)暴露。”
林瀟提醒。
“那就暴露。”
王礪說，“寧可讓一臺(tái)機(jī)器暴露，也不能讓一個(gè)無辜的人消失。”
“王礪！”
周北川的聲音第一次帶上了嚴(yán)厲，“這是命令。”
王礪的手指收緊了。
他知道，自己正在靠近那條紅線。
他也知道，一旦越過，后果不堪設(shè)想。
但他更知道，昨天的風(fēng)還沒停。
“抱歉，長(zhǎng)官。”
他低聲說，然后將操縱桿輕輕一推。
一號(hào)機(jī)像一只離弦的箭，突然改變了航線，從一棟高樓的陰影里鉆了出來。
屏幕上，可見光畫面一閃而過——那是一個(gè)被綁在遙控車上的熱源裝置，旁邊，還有一個(gè)被關(guān)在鐵籠里的人形標(biāo)識(shí)。
“停止打擊！”
林瀟幾乎在同一時(shí)間喊了出來。
停止打擊！”
周北川也下達(dá)了命令。
系統(tǒng)發(fā)出了刺耳的警報(bào)，**的導(dǎo)引頭在最后一刻被關(guān)閉。
無人機(jī)掠過目標(biāo)上空，帶起一陣虛擬的風(fēng)。
簡(jiǎn)報(bào)室里一片死寂。
“復(fù)盤。”
周北川打破了沉默。
屏幕上開始回放剛才的每一個(gè)數(shù)據(jù)點(diǎn)。
算法的置信度曲線在最后幾秒內(nèi)急劇上升，幾乎達(dá)到了完美。
然而，在可見光畫面出現(xiàn)的一瞬間，所有的數(shù)據(jù)都顯得蒼白無力。
“算法為什么會(huì)誤判？”
周北川問。
“因?yàn)樵谒氖澜缋铮挥袛?shù)據(jù)。”
林瀟說，“它沒有見過有人會(huì)用這種方式誘騙它。”
“它的訓(xùn)練數(shù)據(jù)里沒有這種樣本。”
王礪補(bǔ)充，“它的偏見來自我們提供給它的世界。”
“所以你認(rèn)為，人應(yīng)該在回路里？”
周北川問。
“我認(rèn)為，人必須在回路里。”
王礪說，“尤其是在城市里，在人的世界里。”
“可你違反了命令。”
周北川看著他，“這是要付出代價(jià)的。”
“是。”
王礪點(diǎn)頭，“我準(zhǔn)備好了。”
簡(jiǎn)報(bào)室里再次安靜下來。
周北川的目光在王礪和林瀟之間來回移動(dòng)，像是在權(quán)衡什么。
“代價(jià)是，”周北川最終開口，“從現(xiàn)在開始，你和林瀟組成固定搭檔。
你們要在一個(gè)月內(nèi)，把今天的‘首覺’變成明天的‘規(guī)則’。”
“規(guī)則？”
王礪有些意外。
“對(duì)。”
周北川點(diǎn)頭，“我們需要一條新的紅線。
一條既能讓機(jī)器發(fā)揮優(yōu)勢(shì)，又能讓人守住底線的紅線。”
“這不容易。”
林瀟說。
“容易的事情，不需要我們。”
周北川說。
會(huì)議結(jié)束后，大多數(shù)人都離開了。
林瀟卻留在控制臺(tái)前，手指在鍵盤上飛快地敲擊。
“你在做什么？”
王礪走過去問。
“我在看**日志。”
林瀟的聲音有些低沉，“我想確認(rèn)一件事。”
“什么事？”
“剛才的模擬，干擾源的特征……和我們昨天遇到的，不完全一樣。”
林瀟說，“像是同一個(gè)家族，但不同的個(gè)體。”
“這意味著什么？”
王礪問。
“意味著，有人在調(diào)整它。”
林瀟說，“而且，調(diào)整得很頻繁。”
“誰？”
“還不知道。”
林瀟搖頭，“但我會(huì)找到的。”
王礪看著她，突然覺得這個(gè)冷靜的女孩身上有一種讓人安心的力量。
“謝謝你剛才的‘停止打擊’。”
他說。
“我只是做了我該做的。”
林瀟說，“你也是。”
“我們會(huì)付出代價(jià)嗎？”
王礪問。
“會(huì)。”
林瀟點(diǎn)頭，“但我們也會(huì)得到回報(bào)。”
“什么回報(bào)？”
“也許是一條新的規(guī)則。”
林瀟說，“也許是一個(gè)新的開始。”
王礪笑了。
“那我們就從今晚開始。”
“從現(xiàn)在開始。”
林瀟糾正。
他們并肩坐在控制臺(tái)前，屏幕上的城市在夜色中安靜下來。
但他們都知道，真正的風(fēng)暴，還在前面。
（第三章完）