近日，欧洲刑警组织（Europol）创新实验室与刑警部门专家开展了一系列研讨会，主要围绕ChatGPT等大语言模型产品，如何帮助犯罪分子进行各种犯罪行为。以及调查员该如何监控、防范通过生成式AI产品进行犯罪。

欧洲刑警组织的创新实验室还发布了一份名为《ChatGPT大语言模型对执法的影响》的报告，深度揭示了通过ChatGPT可能进行的诸多犯罪行为，并对执法管理者提供了防范建议。（报告地址：https://www.europol.europa.eu/publications-events/publications/chatgpt-impact-of-large-language-models-law-enforcement）

欧洲刑警组织表示，之所以选择ChatGPT为研究对象，主要因为其影响力实在太大了，全球有数亿人在使用该产品。因此，随着AI技术的迭代和更多大语言模型的出现，如何监管这些产品防止被用于非法犯罪行为越来越重要。

面对利用ChatGPT的犯罪行为将不断增加，欧洲刑警组织对执法界提供了以下建议：

1）提升对大语言模型产品的关注度，当发现潜在威胁和漏洞时应积极联系技术开发商并采取有效补救措施。

2）大语言模型的影响力正在逐渐扩大，应该研究、预测可能通过该产品实施的犯罪行为。

3）执法人员本身需要掌握ChatGPT等大语言模型产品的技术热性，这有助于快速评估生成恶意、偏见、犯罪信息。

4）随着技术不断的迭代和资金的投入，应与相关部门进行定期的会谈，了解他们的产品研发情况并给出优化建议。

5）执法人员在使用大语言模型产品时，可以针对自己特定的领域数据进行训练、微调，这有助于解决偏见问题。在使用时，需要选择适当业务流程和保护措施，防止泄露保密信息。

事实上，欧洲刑警组织的担心不无道理。今年3月24日，美国得克萨斯州休斯敦的一对老年夫妇被犯罪分子骗取了5000美元，从而推迟了癌症治疗。

该罪犯通过生成式AI产品模拟了其儿子的声音，并声称，“自己出了一场严重车祸，撞了一名孕妇将面临牢狱之灾，急需钱进行保释。”该夫妇接到电话后，听到声音确信那就是他的“儿子”，将钱打给对方后发现被骗了。

此外，国外也有很多用户通过AI合成视频进行恶搞，例如，将某著名影星放在不雅视频中。严格意义上来说，这已经触犯了肖像权法律。相信随着生成式AI的快速发展，未来监管机构会制定详细的使用规范。

关于欧洲刑警组织

欧洲刑警组织创立于1970年，是欧盟的联合执法机构，以打击一切犯罪行为实现安全欧洲为目标。

本文素材来源欧洲刑警组织官网，如有侵权请联系删除