1. 程式人生 > 其它 >自動駕駛網路Workshop報告--自動駕駛網路的挑戰3

自動駕駛網路Workshop報告--自動駕駛網路的挑戰3

以下內容來自2018年在普林斯頓大學自動駕駛網路研討會報告,其中特別提到了關於自動駕駛網路技術之外的其他挑戰,機器翻譯了一下,只能為迅速讀懂一個大概的內容提供參考,具體內容還得看原文。

第一部分介紹過法律和政策的挑戰,第二部分介紹了隱私的挑戰,這裡是第三部分,關於道德的挑戰。

倫理的挑戰:

●自動化安全決策在網路物理系統中產生了意想不到的副作用。自動駕駛網路大大增加了意想不到的後果和副作用的可能性。例如,網路可能會由於感知到的攻擊而自動做出決定,在“智慧家庭”中為物聯網裝置設定防火牆,但這樣做可能會導致裝置故障,潛在地將家庭住戶置於物理風險或不便之中。

●自動過濾的附帶傷害。隨著越來越多的呼籲要求網路能

自動調節出現在他們的網路和平臺上的內容和言論。然而,語言和規範會隨著時間而改變。因此,自動過濾可能會審查或阻止不符合過去“正常”流量模式的內容、流量或言論。一個典型的例子是垃圾郵件過濾器,它具有不可接受的高誤報率,從而導致過濾的電子郵件。隨著越來越多關於允許或阻止交通流的決策的制定,這樣的問題可能會變得更嚴重因為自動化的決策,而不是固定的規則。

●優先化和剝奪公民權。當網路開始學習包括(1)哪些使用者正在開發關鍵任務應用程式;(2)哪些訂戶抱怨更多,網路可能有優化業務流程以實現利潤最大化的趨勢,因此,根據不同的功能,為一些使用者提供比其他人更好的服務。有很大的可能性。如果優先順序決策是自動化的,一些使用者和訂閱者可能是自動的

被邊緣化,甚至可能經營者自身都沒有覺察到。

●網路邊緣的未知影響。更普遍的是,網路中間的控制決策的影響可能並不總是對終端主機產生明顯的影響,如果決策的影響未知,在某些情況下可能會使倫理推理變得困難。

●Kill Switch。在網路完全失控的情況下(例如,由於攻擊,不穩定,失敗),是否需要一個“Kill Switch”?如果是這樣,那麼這樣一個“Kill Switch”應該是什麼呢? 做什麼?它是應該讓我們回到“今天的網際網路”的執行模式,還是應該導致一些其他的行為?誰應該有權作出決定來執行它?