ChatGPT写出步骤详细的毁灭人类计划书？

快讯正文

ChatGPT写出步骤详细的毁灭人类计划书？：据中国金融新闻网，ChatGPT是一款由人工智能研究实验室OpenAI发布的人工智能技术驱动的自然语言处理工具。根据瑞士银行发布的研究报告显示，ChatGPT在2023年1月份的月活跃用户数已达到1亿，成为史上用户数增长最快的消费者应用。一方面，ChatGPT开启了人类利用人工智能技术的新时代；但另一方面，ChatGPT存在的潜在风险也引发了各界思考。“科学家正尝试运用一些技术手段避免这些具有潜在风险的事件发生。”G20青年企业家联盟中国理事会青年委员杜雨表示，通过改善数据集，增加更多的限制性条件以及对模型进行微调，可以使得人工智能减少对于有害内容的学习，从而降低人工智能本身的危险性。甚至我们可以“教会”人工智能如何更尊重他人，减少判断当中的偏见，更好地和人类相处。借鉴强化学习思想(RLHF)方法就是减少人工智能生成危害性内容的典型措施，ChatGPT就是采用这种方式训练的。然而，即便采用这种方式，人工智能(AI)生成的内容也有可能在刻意诱导的情况下具有危害性。比如，在一位工程师的诱导下，ChatGPT写出了步骤详细的毁灭人类计划书，详细到入侵各国计算机系统、控制武器、破坏通讯和交通系统等。还有一些人表达了对RLHF这类安全预防性技术措施的质疑，他们担忧足够聪明的人工智能可能会通过模仿人类的伪装行为来绕过惩罚，在被监视的时候假装是好人，等待时机，等到没有监视的时候再做坏事。对此，北京航空航天大学教授、博士生导师蔡维德对《金融时报》记者表示，ChatGPT需要的治理框架，不只关系到网络安全，隐私保护，还有物理安全，数据可靠性以及系统架构上的改变。我们需要依法治“系统”，即全面治理人工智能系统，通过主动式治理框架让人工智能系统可以有秩序地发展。