If AI companies avoid AI slop, shouldn't we?
9 hours ago
- AI公司更倾向于使用人类生成的内容进行训练，以避免由AI生成数据导致的“模型崩溃”。
- ISBNdb为AI训练提供2022年之前的书籍，因为这些书籍不包含AI生成的内容。
- Reddit的数据因其人类生成的内容以及评判质量的投票系统而受到重视。
- 模型崩溃会导致AI在AI数据上训练时准确性下降、输出变得泛泛，并产生经过验证的幻觉。
- 人在回路中的AI使用也可能导致同质化和模型崩溃，因为受AI影响的内容会被反馈到训练中。
- 研究表明，即使有人类参与，AI生成的想法也会降低多样性和创造力。