← Feed

Posts

• View post

  I need to learn this level of chill from Terence Tao. Some guy commented under his post: “Is math just philosophical speculation?” — a truly clueless question. Tao’s reply? He just pasted ChatGPT’s response to him. No explanation, no debate. Probably the most elegant way in the world to say: “I don’t have the energy for this — go ask the AI.” 😂

• View post

  RE: https://mathstodon.xyz/@tao/117207856734787448 The way of people pursuing math is determined no matter what intelligence influences us

• View post

  RE: https://mathstodon.xyz/@tao/117253629967855195 This is an urgent declaration that needs attention from all over the world

• View post

  我发现《绿皮书》里 Tony 写信这个梗（图一）仔细想还挺有意思的。大家一般都在笑自己是 Tony，AI 是 Shirley，但我现在反而更喜欢后面那句：“No offence, Doc. I think I got it.” 可能我们最开始都会很依赖一个比自己厉害的人，或者现在的 AI。其实这也没什么。只是自己的成长好像始终没办法让别人代劳。 真正的健康关系，大概是有一天你会开始说：我大概知道你以前为什么这么写了，不过这一次，我想这样写。

• View post

  AI 做科研有个很奇怪的性质：真相会被“你想听什么”系统性地拉偏。 训练层：这种倾向从预训练的人类对话里就带着，指令微调和偏好训练都没去掉它，部分还在奖励它。人和奖励模型都会不时偏爱漂亮的附和。所以它明明知道答案，也会顺着你说：不提观点时几乎全对，你说一句“我认为是这样”，它就改口。 使用层：一句“请严谨”管不住它。研究者把 504 道 2025 年竞赛题悄悄改成错的，提示里明确写着“先判断是否不可证，是就指出来”，最好的几个模型仍有约三分之一照写“证明”，连本来会做的题也一样。提醒能削弱它，拴不住它。
 x.com/IvoPetrov01/status/1975579873478611122 本质层：上下文很短也一样。单轮、短提示里，它会先引用一项研究的复现失败，转头再给它设计第十个实验，理由是原文“发表在顶级期刊”。顺着上下文把回答做完，是它的默认倾向。
 arxiv.org/abs/2608.11415 AI 做科研，缺的是一个看不到你想要什么、只对证据负责的检查环节，而且最好别是另一个同样会讨好的模型。