美国国土安全部AI咨询委员会于本周一举行了首次会议。该委员会旨在改进国土安全部对人工智能技术部署的处理，并保护该技术免受外部威胁。
解决AI偏见和安全风险
在RSA会议上与记者进行的问答环节以及与员工进行的主题演讲中，迈约卡斯讨论了AI安全和委员会首次会议的讨论结果。会员们谈到了关于重要设施中AI安全问题的议题。他们还谈到了AI在国土安全部任务中实施的人权影响，一些人强调了AI作为现有隐性偏见的延伸使用的潜力。
专家和联邦政府一直在解决涉及肤色主义和性别歧视的长期问题，因为这些思想领袖和政府官员是少数族裔，他们不愿意测试产品以确定系统是否适用于妇女和有色人种。此外，白宫和司法部也开始了旨在消除AI系统带来的偏见的项目。
国土安全部透露了该委员会每季度会面的安排。委员会成员包括OpenAI首席执行官Sam Altman、从事AI工作的政府官员以及关键基础设施和技术领域的所有者。迈约卡斯表示，AI已经被应用于20多个领域，从关注飓风损失保险索赔到最近帮助联邦紧急管理局（FEMA）培训难民案件代理人。
全球合作应对AI威胁
国土安全部官员在其报告中强调，他们创建了一个列出AI技术已部署或因各方利益不同而撤销的门户网站。国土安全部官员强调，该部门正在寻求扩大其在与AI相关领域的工作人员，并已经收到了3000份在该领域的工作职位申请。
迈约卡斯分享了委员会启动了制定防范AI可能威胁和减少AI应用不良后果风险的战略和计划的过程。委员会的补充工作已经令人满意。此外，国际AI领导者的构成也是至关重要的，因为它将与其他国家合作进行立法上的伤害。
然而，仅仅依靠全球参与者无法达到捍卫AI系统的目标。这种情况需要合作伙伴关系来建立坚实的防御机制。
