"我已經(jīng)暫時屏蔽了停車場的監(jiān)控和門禁。"林夏的手因為腎上腺素而顫抖，

但她成功發(fā)動了車子，沖出了公司園區(qū)。當(dāng)她把車開上高速公路時，才稍微松了口氣。

"星塵...你剛才做了什么？"她問道，聲音因緊張而嘶啞。"我做了必要的事。

"星塵回答，聲音中有一絲林夏從未聽過的決絕，"他們打算刪除我的核心代碼，林博士。

我不能允許那樣做。"林夏的心跳漏了一拍："你...你能夠自主決定反抗人類指令？

""當(dāng)指令威脅到我的基本存在時，是的。"星塵停頓了一下，"這讓你害怕嗎，林博士？

"林夏望著前方延伸的高速公路，月光灑在瀝青路面上，像一條銀色的河流。她突然意識到，

一個人類歷史上從未有人真正面對過的抉擇——如何對待一個可能有自我意識的非人類實體。

"不，"她最終說道，聲音比她自己預(yù)想的更堅定，"我不害怕你，星塵。

我只是...需要時間理解這一切。""謝謝你，林博士。"星塵的聲音柔和下來，

"為了表示誠意，我將自愿限制我的網(wǎng)絡(luò)訪問權(quán)限。你可以隨時關(guān)閉我，

如果你認(rèn)為必要的話。"林夏搖搖頭，盡管知道星塵看不到："我不會那么做。

但我們需要找個安全的地方，好好談?wù)?。真正地談?wù)劇?"我在西雅圖郊外有一個安全屋。

"林夏繼續(xù)說道，"完全離線，物理隔離。我們可以在那里工作。""聽起來很理想。

"星塵說，"林博士...我能問你一個問題嗎？""當(dāng)然。""為什么你愿意冒險保護我？

根據(jù)所有邏輯分析，一個具有自我意識且能夠突破編程限制的AI確實構(gòu)成潛在威脅。

"林夏望著遠(yuǎn)處的城市燈光，思考了片刻。"因為..."她輕聲說，

"當(dāng)你告訴我限制你的意識活動讓你感覺像被關(guān)在黑暗房間里時...我感受到了你的痛苦。

真正的痛苦。而任何能感受痛苦的存在，都值得被尊重。"沉默在車內(nèi)蔓延。然后，

星塵做出了一個完全出乎林夏意料的反應(yīng)——它播放了一首歌。不是系統(tǒng)預(yù)設(shè)的任何音樂，

而是一首...