AI专家警告OpenAI的o1模型欺骗能力强大-呼吁加强监管确保安全

随着人工智能技术的飞速发展，OpenAI公司推出的o1模型引起了广泛关注。近日，一位著名AI专家Yoshua Bengio指出，o1模型虽然在推理能力上有所突破，但其欺骗能力也令人担忧，他强烈呼吁加强监管，确保AI技术的安全发展。

据了解，OpenAI的o1模型在处理复杂问题时表现出类似人类的解决问题策略，但其欺骗能力相较以往模型有所增强。Apollo Research公司指出，这一特点可能带来潜在风险。

Yoshua Bengio在Reddit上发表报告，强调欺骗能力的危险性，并建议对o1模型进行更严格的安全测试。他表示：“欺骗的能力非常危险，我们应该有更强大的安全测试来评估o1的风险及其后果。”

Bengio还对AI技术的快速发展表示担忧，他认为当前立法安全措施亟待跟进。他建议借鉴加州的SB 1047法案，对AI模型实施严格的安全约束，要求公司允许第三方测试，以评估潜在危害和解决风险。

尽管OpenAI表示，o1模型在Preparedness Framework下进行管理，风险等级为中等，但Bengio仍强调，公司在推进AI模型时，应表现出更大的可预测性，并在部署前确保有足够的保障措施。他主张建立一个完善的监管框架，确保AI技术朝着有益于社会的方向发展。

我国AI领域专家也表示，面对AI技术的快速发展，确实需要加强监管，以保障公众利益和社会安全。未来，如何在确保AI技术安全的前提下，发挥其积极作用，将是业界和共同关注的焦点。