当自动化世界出现问题时,我们还会知道该怎么做吗?

作者:申椽

我们生活在一个日益复杂和自动化的世界中,正如我们必须处理更复杂的问题一样,自动化导致人类技能的萎缩,这可能使我们在应对意外情况或出现问题时更容易受到攻击考虑法国航空公司447航班的最后几分钟,该航班于2009年5月离开巴西里约热内卢后飞往大西洋,飞往法国巴黎。它的飞行记录仪显示驾驶舱完全混乱飞机在15º时以自动语音向上倾斜重复地称之为“失速,失速”然而飞行员正在挣扎,一个人惊呼:“我们什么都不懂”这不是进入那个命运多flight的航班的来龙去脉的地方,除了注意大多数情况下设计用于自动处理突发事件的任何系统都会为少数情况留下降级的技能基础,设计师无法预见对于名利场,Nadine Sarte密歇根大学的一位工业工程师回忆起与五位工程师的谈话,他们参与建造一架特定的飞机,我开始问,“那么,这个或那个怎么工作?”他们无法就答案达成一致所以我在思考如果这五位工程师不能同意,这位可怜的飞行员,如果他遇到过那种特殊情况......好吧,祝你好运实际上,明智地飞行高度复杂的高科技飞机的复杂性已被外包给机器人,飞行工程师全力以赴从驾驶舱中消失的目的只有年长的飞行员和前空军飞行员才能保留这些详细的技能。在自动驾驶世界中,可能会有整个后代没有任何驾驶和驾驶车辆的实际经验我们已经看到了当人类将控制权交给自治系统时可能出现什么问题的迹象对特斯拉模型S与自动驾驶仪发生致命事故的调查指出,公司向司机提供了有关“系统限制”的信息在这种情况下,仍然需要司机注意但是如果他们未来的全自动车辆出现问题,那么一个人有什么机会接管任何控制他们甚至会知道如何发现即将发生灾难的早期迹象?推动这是一种技术决定论,认为任何和所有创新本质上都是好的虽然新兴技术可能尚未定义人类是什么,但挑战在于认识到风险以及如何做以确保事情不会出错更加困难,因为我们一直在增加复杂性,尤其是郊区列车,空中出租车和无人机的自动驾驶系统设计师一直在建立更大,更交织的系统来共享计算机处理负载,即使这使他们的创作成为崩溃的主要候选者他们是忽略了这样一个事实:一旦所有东西都连接在一起,问题就像解决方案一样容易传播,有时候会更加如此。自动化世界的增长和巨大的复杂性带来了类似的风险事后看来,需要的是在出现故障点时切断网络的能力,或者至少在其中的其他地方存在故障点时封闭单个网络的部分。这个“孤岛” g“是智能电网的一个特征,它提供了将网络分成能够自我维持其内部电力需求的片段的范围。建模表明,更少的连接可以带来更多的安全性紧急复杂性科学可以帮助确定危险点的位置在高度互联的网络中? Marten Scheffer及其同事认为,他已经看到(他的)自然系统与经济和金融系统之间的相似之处他早期在湖泊,珊瑚礁,海洋,森林和草原上的工作,发现环境会受到气候,营养等逐渐变化的影响载荷和栖息地损失可以达到临界点,将它们转变为有时不可逆转的较低状态 处理金融市场稳定性的银行家和经济学家是否可以从生态学,流行病学和气候学的研究人员那里学习开发接近临界阈值和系统崩溃的标记? 2016年2月,所有这些都以复杂性理论和金融监管的形式汇集在一起​​,由多位专家共同撰写,包括经济学家,银行家,物理学家,气候学家,生态学家,动物学家,兽医和流行病学家。他们推荐了在线整合数据,方法和指标,近乎实时地为全球社会经济和金融系统提供压力测试前者类似于处理天气等其他复杂系统所取得的成就我们可以开始看到我们的自治范例驾驶世界折叠成网络稳定性的问题想象一个高度互联的自动驾驶车辆网络明显需要知道如何检测和隔离这种网络中的任何潜在故障点,在出现潜在的悲剧性后果之前这不仅仅是保护驾驶员和乘客免​​受单一自动驾驶汽车的任何系统故障现在是时候思考了我们如何利用这些多学科的进步来理解这种大规模网络的稳定性,....

上一篇 : 马里恩特里尔