OpenAI首席执行官Sam Altman在周三的技术会议上宣布，公司研发的多模态AI助手Astra即将向公众全面开放。然而，他同时强调，该系统中嵌入的某些网络相关功能仍需要严格的安全验证。
Altman指出，Astra在网络安全领域具备执行复杂任务的能力，包括漏洞发现和自动化防御响应，这些功能引发了伦理和安全方面的担忧，必须优先解决。他表示：“我们对Astra的潜力感到兴奋，但绝不会在安全问题上妥协。我们正在开发的网络能力十分强大，而伴随这种力量而来的是确保其不被滥用的责任。”
Astra旨在处理实时语音、视觉和文本交互，标志着人机自然协作迈出里程碑式的一步。然而，相同的底层能力也可能被用于攻击性网络行动，促使OpenAI实施额外的红队测试和对抗性鲁棒性检查。
此次发布正值高级AI系统面临日益严格的监管审查。行业专家认为，虽然Astra的广泛可用性将推动创新，但其网络维度需要政府、研究人员和伦理学家协同应对。
OpenAI尚未公布具体发布日期，但知情人士透露，发布可能会在未来几个月内开始，并可能分阶段进行，以监控实际影响。Altman补充说，OpenAI正与外部安全机构合作，为Astra网络功能的合法和道德使用制定明确指导方针。
原创文章，作者：MING，如若转载，请注明出处：https://www.218btc.com/573/
