随即，工程师又发出指令：“向左移动 25 度，然后横扫整个发射场，每隔 5 度停下来发射一发炮弹，每个间距也应该有一些变化。”

3 秒后，自动步枪按照指令在从左到右横扫的过程中射击了 11 枪，并主动回复道：“如果您需要任何进一步的操作，请随时告诉我。”

是的，你没看错：这位网名为 STS 3D 的工程师，通过 OpenAI 的 ChatGPT 实时 API，打造了一款能够响应指令、自动瞄准并迅速开火的自动步枪——而这显然违反了 OpenAI 的使用政策。

科技公司所肩负的伦理和安全方面的责任

事实上，作为全球领先的人工智能公司之一，OpenAI 曾明确全面禁止将其包括 ChatGPT 在内的产品用于武器研发。

可就在去年，OpenAI 悄然调整了其使用政策，删除了“禁止将 OpenAI 技术用于军事用途”的条文，但依然禁止用户利用其服务开发或使用武器：“我们的服务不允许用于伤害自己或他人，包括禁止开发或使用武器。”

因此，尽管 OpenAI 封禁了如 STS 3D 这类的个人用户，但这并不意味着军事或防务承包商无法利用 AI 开发类似的武器系统：例如上个月，OpenAI 宣布了与防务科技公司 Anduril 达成合作，进一步推动其在军事领域的布局。注意，Anduril 是一家专注于开发 AI 驱动的无人机和导弹等高科技军事装备的公司，它与 OpenAI 的合作无疑将进一步推动 AI 在军事领域的应用。

当然，技术本身并不带有道德判断，如何使用这些技术才是关键。就像此次 OpenAI 对 STS 3D 的封禁行为，看似只是一个违背其产品使用政策的惩罚，但也反映了科技公司在快速发展的 AI 技术面前，所肩负的伦理和安全方面的责任——在开发和应用这些技术时，必须时刻保持对其可能带来的负面影响的警觉。

参考链接：

https://gizmodo.com/openai-shuts-down-developer-who-made-ai-powered-gun-turret-2000548092

https://futurism.com/the-byte/openai-cuts-off-chatgpt-robot-rifle