一个可怕的潜在应用：无人机+人脸识别算法=杀手无人机

z1413

新技术的研发项目往往关注单项的技术更新，比如更轻巧的无人机，更准确的人脸识别算法。


最近，一位工程师突然意识到，一些这样的新技术叠加起来，可能带来非常可怕的后果，例如——利用面部识别技术追杀特定对象的杀手无人机。

追着人跑的无人机丨X@luiswenus

制造杀手无人机

拢共就三步

这项实验的设计者是 AI 创业者、工程师路易·韦努斯（Luis Wenus），他在自己的 X（原 Twitter）账号上讲述了经过。


起初，韦努斯只想发明一个高科技版的鬼抓人游戏，用无人机追着人跑：“只要使用AI物体探测模型，识别检测区域里的人，然后对无人机编程，让它一旦检测到某个人就全速冲过去。”


接下来，“我成功添加了面孔识别功能，让它只追踪目标人物，它能轻松在 10 米的距离处认出这个人”，韦努斯写道。


这时候，韦努斯开始感到害怕了。如果无人机能精准识别目标，那么只要再搭载一点爆炸物，就能让它发动攻击。


“这样的无人机实际上只要几个小时就能做出来，这让我意识到它有多么恐怖。你可以轻松在上面搭载少量爆炸物，放出 100 台这样的无人机。”


韦努斯强调，他的实验只用了一台小小的无人机，不会对人造成任何伤害，意在唤起大众对安全问题的关注。

原贴内容丨X@luiswenus

开发者：制造门槛将越来越低

韦努斯自称是“开源的绝对支持者”和 AI 的拥护者，他在个人简介中写着“e/acc”，表示他支持有效加速主义（effective accelerationism）。这种思潮接近于技术乐观主义，相信 AI 的发展利大于弊，支持大力发展 AI 技术，而尽量减少监管的限制。这种观点并不否认技术具有潜在的负面影响，但强调只有将技术公开，才能找到解决办法。


但是，使用开源设备稍作改造，就能制造出如此可怕的武器，这一事实让韦努斯也有些动摇。他表示不能分享这次实验相关的代码，并强调“超级简单”。


他担心，随着 AI 辅助编程的普及，制造这类设备的门槛将越来越低。在韦努斯的视频下，埃隆·马斯克也直接表明：“没错，简单得可怕。”

埃隆·马斯克转发实验视频称：“没错，简单得可怕。”| X@luiswenus

韦努斯还担心，目前在许多公共场所、大型活动中，安保措施仅关注传统的枪支弹药，而没有对无人机进行同样的限制。

无人机与反无人机的

“猫鼠游戏”

近年来，无人机已经被应用于战争领域。在俄乌冲突、巴以冲突的新闻报道中，都能看到无人机的身影。相应地，反无人机技术也在快速发展，它不仅应用于国防，也用于保障机场等重点公共设施的安全。


反无人机系统借助摄像头、声学传感器或雷达探测无人机，然后采用射频干扰、GPS 欺骗等方法，或借助射网枪、高能激光等工具，将无人机驱离或摧毁。


但是，无论是无人机还是反无人机系统，一旦被滥用，都可能造成危险的后果。2019 年，哈尔滨太平机场多架航班受到无人机反制设备干扰，造成航空器 GPS 信号丢失。经过排查发现，是当地一家企业私自设立无人机反制设备，以防范无人机进入厂区。


要防范“技术作恶”，不能只用技术手段进行制约，法律也要跟上脚步。在中国，《无人驾驶航空器飞行管理暂行条例》已经于 2024 年 1 月 1 日实施，要求无人机依法办理登记，飞越集会场所前事先报备，并仅在规定的适飞区域内飞行。随着无人机在爱好者群体中越来越普及，这样的法律法规十分必要。




参考文献

[1]Luis Wenus@X. https://twitter.com/luiswenus/status/1763978511092478221. 2024-03-03/2024-03-21.

[2]Keumars Afifi-Sabet. AI drone that could hunt and kill people built in just hours by scientist 'for a game'. LiveScience. https://www.livescience.com/technology/engineering/ai-drone-that-could-hunt-and-kill-people-built-in-just-hours-by-scientist-for-a-game. 2024-03-07/2024-03-21.

[3]哈尔滨太平机场多架次航班受无人机反制设备干扰. 新华网. http://m.xinhuanet.com/2019-11/14/c_1125232377.htm. 2019-11-14/2024-03-21.

[4]无人机在俄乌冲突中表现到底怎么样？. 新华网. http://www.xinhuanet.com/mil/2022-04/01/c_1211630171.htm

[5]以军空袭加沙地带北部和南部 至少29人死亡. 新华网.http://www.news.cn/20240321/a1e1d3f853854215b6e03cd3fdf26bee/c.html

策划制作
来源丨果壳