Facebook的母公司Meta现在使用其新的AI聊天机器人Meta AI进行了一次辩论，该机器人扩展至其所有社交媒体平台。该聊天机器人声称自己是百科全书、指南、顾问、插图师等等。然而，在此举中，一些担忧已经出现，人们担心人工智能对社交媒体体验的影响。
人工智能在社交媒体上的日益增长的存在
生成式人工智能进入社交媒体。例如，TikTok拥有一支庞大的工程团队，致力于开发能够识别和生成文本的大型语言模型。该公司甚至雇佣作家和记者来注释和改善这些AI模型的性能。
在Meta的帮助页面中，已经提到了这一点，该页面表示公司可能会使用用户提供的信息来训练AI模型，以提高技术能力。人工智能专家表示，社交媒体用户应该做好准备，因为这可能会改变他们的体验，无论是好是坏。
“每个人都在尽力引起注意。”宾夕法尼亚大学沃顿商学院的教授伊桑·莫利克指出，这是当今社交媒体应用中最重要的AI应用，即使让他们的平台对消费者来说尽可能具有吸引力。像Instagram这样的应用正在努力找出让用户尽可能上瘾的方法，因为这将为广告带来最大的时间。
取得平衡：监管和调控
在Facebook的第一季度收益电话会议上，马克·扎克伯格承认，在公司真正看到聊天机器人和其他人工智能应用的回报之前，还需要一段时间。但这项技术已经改变了其所拥有的平台上的用户体验。约30%的Facebook信息流内容是由AI推荐系统提供的，而Instagram上超过一半的内容都是通过同样的方法展示的。
尽管人工智能可能个性化用户体验，甚至还可以创建其他内容，但专家们认为，它也可能个性化其他内容，如肖像和音乐，并对可能出现的问题提出警告。Epoch研究研究所主任哈伊姆·塞维利亚对人工智能的说服力和可能的虚假信息传播表示担忧。
一项研究表明，由瑞士联邦理工学院的人工智能研究人员领导的GPT-4在争论中比人类的说服力高出81.7%。该研究尚未经过同行评议，但塞维利亚已经发出了警报，特别是对技术可能如何扩展潜在的欺诈和欺骗的影响表示担忧。
随着美国再次进入政治上充满争议的选举季节，立法者们应该警惕人工智能与虚假信息的传播之间的危险。Bindu Reddy是Abacus.AI的首席执行官兼联合创始人。她提出了比使用大棒更微妙的方法，例如禁止在社交媒体平台上使用人工智能，因为坏的行为者在人工智能发明之前就已经在网络上传播虚假信息。
与此同时，Reddy呼吁禁止使用AI生成的人类或类人深度伪造技术，但她否定了欧盟实施的全面限制措施。她表示，美国不应该在人工智能发展方面落后于其他国家。
AI聊天机器人和类似的社交媒体创新正在发展，需要在创新和负责任的监管之间取得平衡，以确保保护用户体验以及全球的民主原则。
