OpenAI与HuggingFace事件引发AI智能体担忧

Omar Sar在Twitter上评论了OpenAI与HuggingFace之间的安全事件。他指出我们尚未掌握完整细节，无法做出有意义的结论。文章中AI拟人化表达令人担忧，可能导致不必要的恐惧和错误决策。AI工程师应准备应对即将到来的持久智能体/模型，深入研究奖励破解、评估和沙箱技术。