#指令遵循

SciMIF基准为评估MLLMs在科学领域的指令遵循能力提供了新工具，揭示了不同学科间的性能差异，对科学研究和MLLMs发展具有重要意义。

Gary Marcus直接点出AI不听指令比幻觉更危险，还引用了越具体越不听话的现象。想了解AI安全风险，看这条。

Gary Marcus@GaryMarcus原文

这篇论文告诉你，用模型自己问自己生成的问答数据来训练模型，可能会引入隐蔽的偏见和指令注入风险。他们用一个简单方法就能把问题率从88%压到13%，值得做数据合成的同学看看。