内华达高中正在应对学生之间通过人工智能在社交媒体上广泛传播的显性照片问题。
受害者家长感到无助
内华达州斯托里县警长办公室目前正在调查此事。然而,调查人员表示,由于该州的法律在与人工智能生成的显性照片的创建和传播相关的问题上还不明确,他们能做的很少。
据KCCI报道,“我们的女儿受到了侵害,而似乎我们对此无能为力,”一位受影响学生的家长Chad Borwick表示。
“你不希望你的孩子遭遇这样的事情。你希望他们过得更好,”另一位受害者家长Ida Nady说道。“他们会感觉自己无关紧要,好像他们的声音无论如何都无法发出。”
这种情况清楚地表明了人工智能如何被用来伤害人们。虽然擅长创建文本和图像,但人工智能可能被滥用,这就需要加快人工智能公司的安全措施,尤其是惩罚违法者的法律。
至少在爱荷华州,由参议员Chris Cournoyer(R-LeClaire)赞助的一项法案预计将于7月1日生效。该法律将使在该州创建和传播未成年人全身或部分裸体照片成为一项重罪,该法律也适用于内华达州。
谷歌、Meta、OpenAI等公司同意审核其模型以防止虐待儿童
大型科技公司也已开始采取行动,以遏制使用人工智能制作的虐待儿童图像的增长。谷歌、Meta、OpenAI、微软和亚马逊等公司同意审核其模型,以防止人工智能生成的虐待儿童色情材料和其他对儿童的性侵害的传播。
此举正值儿童网络性虐待率达到历史最高点之际。实际上,根据互联网观察基金会的说法,2023年是“有史以来最严重的一年”。
这家总部位于英国的组织表示,在公开互联网上现在可以找到成千上万张三至六岁儿童的图像和视频。