第102期：和阶跃星辰首席科学家张祥雨聊多模态研究的挣扎史和未来两年的2个“GPT-4时刻”

阶跃星辰首席科学家张祥雨在《商业访谈录》中回顾多模态研究10年史，并预判未来两年的2个“GPT-4时刻”之一是模型的在线学习/自主学习。他披露：模型通用对话、情商、知识量随规模变大更强，但数学推理先升后平、再扩大反而下降，源于next token prediction的本质缺陷，解法是引入RL（强化学习）。