波音737帶來的啟示：人工智能是不是要向習慣低頭？

zmztx

*****    本帖不涉及政治     ******

波音737max8半年時間里摔了兩架，失事原因尚無定論。
現在有兩點對波音很不利。一是在兩個現場發現的部件能證明尾翼抬起機頭向下栽，而且駕駛員也說機頭拉不起來；還有就是裝了兩套軟件，一個是防失速系統，一個是反防失速系統。防，而后在反防，這一點確實不好理解。
可話說回來，波音公司在出事后仍然信心滿滿。再就是波音737MAX飛機在各國在使用的數量很多，為什么大部分飛機沒出事。
其實機頭拉不起來和兩個軟件系統是一回事，都是為了飛行姿態。有人分析，軟件對姿態控制（當然還有硬件，如傳感器）的優先權高于駕駛員，換句話說就是姿態控制交給軟件系統了，沒駕駛員什么事了。那么照這個邏輯，系統不可靠，凡是裝這種控制系統的都該直接掉下來了。可實際上只掉下來兩架。
據說，波音研制或者參與研制的戰斗機、轟炸機中，也有裝這種軟件系統的，是經過考驗的。當然是在作戰飛機上的考驗
于是，就有這樣的認識
第一，技術不能太超前，以至于人們難以掌握
第二，采用先進技術，使用者必須經過充分的訓練
當然，失事原因還沒確認。但是上述兩點分析確實值得深思
我想，假如真是機頭無法控制，那么關掉那套控制系統不就完了嗎？也許是連怎么關都是很復雜的操作，以至于事到臨頭，關都關不上。

zmztx

技術不能太先進，否則難以掌握。
在工廠里，這種事情常見。比如質量控制，你要搞一套復雜有麻煩的方法，一二三四好多條，估計沒什么實際效果。
但你要說，往轉軸上貼塊膠布，軸轉沒轉，轉了多少，一目了然！

一些功能復雜的軟件也是這樣
比如設計軟件，除非你按一個鍵，機器就設計完成了。否則，如果需要人機配合，各個功能劃分、自動化程度就需要好好的斟酌。
還有就是導航，不同的功能模塊使用當中，需要給出指引，退出怎么操作，回退怎么操作，繼續有幾個選擇，等等。最好不要和現有的習慣太擰巴。各位可以注意，3D-CAD軟件，和以往手工繪圖習慣并不太擰巴。
就像737-8，啟用自動系統時，一旦給出信號，機頭就會下壓（這個過程是10秒）。這時駕駛員要干預，好像需要關閉系統再操作。而兩次失事飛機的駕駛員，好像直接和系統較勁，反復十幾次，結果還是控制不住。也許戰斗機駕駛員訓練足夠，也過關，相對年輕反應快。民航駕駛員也許有些達不到這種水平。還有就是民航飛機一般都裝自動駕駛系統（巡航用，有的汽車也有）。我想是不是這種失速控制系統，在使用習慣上和以前的自動駕駛系統有很大不同，如果套用老經驗，也許就送命了。

王紅強whq

頂

andriycike

系統軟件問題導致的事故極其少見，基本都是飛行員對于軟件不夠熟悉造成的，智能軟件在工作的時候，人工操作是無效的，必須先關閉智能控制再進行人工操作，很多事故都是飛行員沒有關閉智能控制就進行人工操作，逐漸喪失控制能力，心態越來越慌，最終導致飛機失控，表面原因是飛行員不熟悉軟件，或者過度疲勞緊張，歸根到底還是我們正處在人工向智能過渡的階段，一方面智能技術還不夠成熟就已經大范圍推廣和更新，另一方面人類對于智能不信任，導致一線的操作者也處于一種糾結的狀態中，我相信智能最終會完全取代人工，但這個過程中必然會有嘗試與損失

zmztx

andriycike 發表于 2019-3-17 10:46
系統軟件問題導致的事故極其少見，基本都是飛行員對于軟件不夠熟悉造成的，智能軟件在工作的時候，人工操作 ...

是的
不過，汽車巡航系統啟動后，如果司機動方向盤，系統自動切換到人工駕駛。也就是說權限由自動系統馬上就交給了人。我的意思是：
如果人習慣了某種操作，飛機駕駛員可能下意識的覺得，只要動方向，系統也馬上就把權限交給人。可惜系統沒交權限，人一下子就暈了。然后就較勁。
我覺得在權限切換上有待改進。當然，如果超音速戰斗機在兩三個馬赫數飛行時，姿態控制上，就沒打算交給人控制。那是另外一回事。
不管最后結論如何，這畢竟是個問題。

人的養成的習慣，有時真的會壞事
比如機床，在走刀前可能會要看一下軌跡，防止撞床子。操作就是搖一下手柄。可到了數控機床，就需要修改程序。試完后再用上刀程序走。這個地方出問題的不少，直接把床子報廢的也有。這時是賴數控系統還是賴人呢？
說的再直接一點：設計者包括自動系統的設計者，在這種情況下，是不是要讓步？迎合習慣？向習慣低頭？

未來第一站

“機器人三大原則”早就有了。
第一條：機器人不得危害人類。此外，不可因為疏忽危險的存在而使人類受害。

第二條：機器人必須服從人類的命令，但命令違反第一條內容時，則不在此限。

第三條：在不違反第一條和第二條的情況下，機器人必須保護自己。

遠祥

其實這些確實是波音公司的問題，否則不可能近三個月連續出現兩臺飛機出現事故！

我叫劉有福

737max系列是根據737 改裝的
機身加大加長 發動機大的情況下 前艙隨時減小  導致機尾重量加大  而其他的并沒有隨之改進
機尾重量大  機尾下墜 為了防止機尾擦地     所以加了一套智能軟件來強制機頭向下  
說白了  就是想省錢省時省力  想用智能軟件來彌補設計上的缺陷

我叫劉有福

忘了說樓主說的人工智能了 記得之前看過一篇文章說
也許真正的人工智能時代永遠不會到來

2782104275

一家公司的問題不值得討論這么多。否則大眾召回那么多次，是不是早可以定論德國制造業不行了？實際就是波音圖省事，而且和一線也就是飛行員溝通測試不足導致的。人工智能還是先考慮怎么代替人工吧，智能的步子還是別邁太大，邁大了全是扯淡