紧接着，自己的前女友，也就是那名17岁女高中生突然无端挑起事端：“你碰了我妹妹的身体，对吧？”

随行的一名少年向 ChatGPT 输入咨询内容，提及 “针对儿童的性侵害” 相关说法。经过多次提问查询后，这名少年向女高中生转告：“ChatGPT 说这种情况和解金最少要 15 万日元。”

面对警方审讯，包括这名 17 岁女高中在内的四人，已经承认相关指控，另有一人对部分罪名予以否认。

没过多久，警方以阿部涉嫌暴行为由当场将其逮捕。由于事件中长女并未受伤，所以次日凌晨零点前后，阿部又被释放。

不管是去找 AI 咨询，还是找朋友商量，两种情况对已经五十岁的我来说，都完全无法理解。

与其去打听该要多少钱，不如先查查干出暴力、恐吓这种事会承担什么样的后果啊。

接连两起与 AI 相关、由青少年引发的负面社会事件，也暴露了生成式 AI 的风险。希望大家不要忘记AI 只是一件工具，约束工具使用边界的，永远是人的良知、道德认知与法律敬畏之心。