研究人员：让AI去学习AI生成的内容会引起模型崩坏

快讯正文

研究人员：让AI去学习AI生成的内容会引起模型崩坏：近日英国和加拿大的研究团体在arXiv上发表名为《递归的诅咒》的论文。论文指出，使用模型生成的内容训练会导致结果模型上有不可逆的缺陷。随着时间的推移，AI生成的错误内容会不断累积从而导致AI对现实会有更加错误的认识，自学模型可能会忘记一开始学习的内容。另一方面，人类与系统的真实交互的数据会变得越来约有价值。随着Adobe的Firefly和OpenAI的ChatGPT等生成式AI的广泛运用，网络上AI生成的内容会越来越多且我们的依赖会越来越大。据CNN，纽约资深律师施瓦茨近日在提交的法庭文件中，使用了ChatGPT提供的虚假案例但未去核实，这使得施瓦茨将面临处罚。所以，在使用AI辅助我们的同时我们必须保持清醒避免过度依赖。(格隆汇)