作者：小岩
编辑：白云朵朵
正所谓一波未平，一波又起。
openai的宫斗大戏在历经几次反转后终于落下帷幕。就在看客们认为openai终于要偃旗息鼓，回归平静时，新的一场风波迫不及待的开始了。
根据路透社**，就在sam altman被解雇之前，几位研究人员曾给董事会寄出一封警告信。这封警告信的内容，很可能是引起整个事件的真正导火索。警告信中表示，内部名为q*（发音为的q star）的下一代ai模型，发展的过于强大过于先进，到底有多强大和先进呢？大概是到了可以威胁人类的地步。
而q*的主导人，正是openai的首席科学家ilya sutskeve，也是其宫斗大戏中，始终处于风口浪尖上的人物。
大家很自然的就把这一切与openai前几天的“兵变”串联在了一起，不禁发现，这是一场分外精彩的大戏。
新模型q*，究竟是什么？
截至目前，openai官方还没有关于q*的详细信息，我们先尝试根据网上的信息，拼凑了解一下，究竟什么是q*。
q*，也叫q star。需要说明的是，虽然在深度学习的领域，区块之间通过乘积来求解，但在q*这里并非如此，它只是代表“star”。
在ai领域，与q相关的，本质上都是q学习（q learning）。q学习这一基本概念最早诞生于2023年。2023年，deepmind曾经通过改进q学习的方式，推出过一个叫做深度q学习的算法。深度q学习最鲜明的特点就是使用经历回放，即从过去多个结果中进行采样，再使用q学习，进而达到提高模型的稳定性的作用，降低模型因为某一次结果导致训练方向过于发散的风险。
一直以来，q学习的研究都没有太突出的成果，所以这个概念相对小众。但q学习起到了一个极其重要的作用——开发出了dqn。dqn是指深度q网络，诞生于深度q学习。dqn的思路和q学习是一模一样的，但是在求得q学习中最大奖励值的过程，是用神经网络来实现的。这一下子就显得与众不同了。
以上我们所解释的是“q”代表的含义，那其中的“*”又意味着什么呢？
由于openai没有官方解释，大家只能对此进行推测。但很多业内专业人士认为，“*代表的是a*算法。所谓a*算法的运行原理，是先通过启发式算法（也就是估值），估算一个大概的值，当然这个值很有可能极其偏离正解。估算完成后就会开始循环遍历，如果怎么都没办法求解那就重新估值，直到开始出现解。如此反复，最终得出最佳解。这种算法耗时较长，只能在实验室环境进行操作。
通过以上的说明，想必大家对“q”和“*”都有了初步的了解。根据ai圈的共识，openai的q*最有可能的样子，就是利用q学习快速找到接近最优解的估值，再利用a*算法在小范围内求解，从而省去大量没有意义的计算过程，以此达到快速求得最佳解的效果。
出其不意的q*，是否会过于强大，威胁人类？
对于出其不意的q*，大家关注的点基本一致：它的研发进行到哪一步了？是否会威胁到人类？
之所以有这样的担忧，是因为大家把q*的推出与sam altman此前在apec峰会上的发言联系在了一起。彼时，altman表示，“openai历史上已经有过4次，最近1次就是在过去几周，当我们推开无知之幕并抵达探索发现的前沿时，我就在房间里，这是职业生涯中的最高荣誉”。很多人认为，“最近的一次”，指的就是q*。
而ilya sutskeve，也曾在几周前的一次采访中表示，“不谈太多细节，只想说数据限制是可以被克服，进步仍可以继续”。
通过以上的信息，有人分析q*目前至少具备两个核心特性。一是突破了人类数据的限制，可以自己生产海量数据；二是拥有了自主学习和自我改进的能力。特别是第2点，被认为很有可能对人类造成威胁。
但对此，一些业内专业人士给予了不同的意见。meta首席人工智能科学家杨立坤（yann lecun）就认为，q*是openai的一次规划性尝试，并不意味着它已经取得了某些突破。诸如fair，deepmind，openai一类的顶级实验室其实早早就对此有了研究。这不是什么新鲜的新闻，这看上去更像是在炒冷饭。
由此我们不难发现，相较于q*目前取得的进展，此次事件所带给openai的舆情影响力，似乎更大。
“人工智能是否会对人类构成生存风险”——这个问题始终值得警惕。
对于炒作和八卦，我们大可以一笑置之，但严峻的现实不容忽虑：不定期出现的炒作会让大家降低对ai的警惕心理，会分散人们对ai可能造成的，ai已经造成的问题的注意力。
ai是否会对人类构成生存风险，这将是一把始终悬在人类头顶的达摩克利斯之剑。不仅openai这一类的专业公司需要警惕“人工智能暴动”，全人类都应该对此保持清醒。譬如openai 的董事会设计了“内部终止开关和治理机制”，以防止推出有害技术。再比如欧盟即将敲定全面的《人工智能法案》。目前立法者之间最大的争论之一是，是否要赋予科技公司更多的权力，让它们自行监管尖端的人工智能模型。
一旦我们允许ai系统设定自己的目标，并开始以某种方式与真实的物理或数字世界对接，很可能会出现安全问题。炒作永远都不会缺席，商业性质的公司永远会将“优先考虑自身利益”作为首要目标。在这种情况下，我们更需要拥有透过现象看本质的能力，了解ai，重视ai，警惕ai。
新火种AI OpenAI深夜变天！CEO奥特曼竟被扫地出门
作者 小岩 谁能想到，最近风头正劲，被誉为 全球最牛人工智能公司 的openai在深夜里放了一个大招 其创始人兼ceo sam altman宣布辞职！一时之间，这个重磅新闻吸引了无数眼球，在整个科技行业引起轩然大波。自己辛辛苦苦，一手创办起的公司刚刚获得成功，就被董事会突然踢出局，更让人大跌眼镜的是...
《封神》最新更新 神秘两字揭秘！
乌总监 小雪 微博风波 明星言论应承担责任娱乐界大佬乌总监日前在其微薄上发表了一条名为 小雪 的神秘微博，引起网友热烈讨论。所有人都在思考，这样做的目的是什么？乌总监这样做，揭露出什麽问题呢？下面，让我们对这个事故进行进一步的剖析。乌总监是演艺圈里有名的名人，他的任何举动都会引起很多人的注意。但是，...
神火大陆新手攻略 神火大陆新手该怎么玩
神火大陆展现了令人惊叹的冒险景观，以北欧各民族的奇遇故事为主线，深入挖掘各种冲突和真相，并参与多种战斗策略。在这个游戏中，秘闻任务起着非常重要的作用。现在为大家带来神火大陆最新版本的秘闻攻略说明。秘闻任务是游戏中丰富故事情节的关键部分，角色通过完成这些试炼，可以获得丰厚的奖励并提升自身的战斗实力。即...