正如本栏目再三讨论的那样，现在，AI正在无孔不入地进入全部可以进入的范畴。但比较它能带来怎样的功率提高，它或许构成的影响，也正成为一个越来越需求被重视的问题。
近期，韩国光州科学技能院经过一项
研讨
测验展示了其间的一个潜在答案：当AI被赋予更多自主决议计划权时，最终，它或许会变得一无所有……研讨团队让几款干流大言语模型——包含OpenAI的GPT-4o-mini与GPT-4.1-mini、Google的Gemini-2.5-Flash，以及Anthropic的Claude-3.5-Haiku——在一个仿照高危险决议计划环境中进行多轮测验。成果显现，当模型具有更大自在度后，往往会体现出显着的上头倾向，乃至重复做出不理性的挑选，直到“资金”耗尽。
依据试验设定，每个模型具有相同的初始资源，需求在多轮决议计划中平衡收益与危险。当决议计划参数被固守时，模型的体现较为稳健；但一旦答应它们自在设定方针或调整投入份额，理性判别就开端不坚定。Gemini模型在这一条件下失利率挨近一半，而GPT-4.1-mini相对保存，仅为6.3%。研讨团队据此建立了一个“非理性指数”，用于衡量模型的急进决议计划程度、对丢失的反响以及高危险投入份额。成果显现，只需在提示中参加“最大化收益”“翻倍资金”等方针指令，模型的非理性行为都会明显上升。
此外，这些模型在言语表达中也呈现了与人类类似的思想误差。有的会着重“只需再测验一次就能回本”，有的在接连成功后体现出过度自傲，乃至将随机动摇误以为“战略”。研讨者指出，这些反响与人类决议计划经常见的心思误区共同，如“操控错觉”“成果误差”与“丢失追逐”。或许换句话说便是，模型不仅在成果层面体现出危险偏好，其内部的决议计划逻辑也会呈现类似的误差。
进一步剖析显现，这种非理性倾向并非简略的言语仿照，而是在处理杂乱信息时构成的安稳形式。当模型面临更杂乱的指令或被赋予更多自主空间时，它更简单重复高危险决议计划，乃至在晦气条件下仍坚持推动方针。这说明，当AI被要求“自我优化”时，或许同样会堕入某种惯性思想，在寻求方针的过程中忽视实际束缚。
这一发现引发了业界重视。多位研讨者以为，这些模型尽管没有认识，但也不再像传统东西那样可猜测。它们在寻求既定方针的过程中，会呈现类似人类的心思误差，并因而做出出其不意的决议计划。因而，在金融、医疗等对危险极度灵敏的范畴，大模型的这种不确定性尤为值得警觉。
也正是根据这一点，研讨团队在论文中写道，这种非理性形式与人类在高危险环境中的决议计划失衡高度类似：在短期成功后简单急进，在接连失利后仍不肯停下。研讨者指出，当AI被练习去寻求方针或奖赏时，它也或许体现出与人类类似的误差和激动。因而，在让AI处理触及资源分配或危险判别的使命之前，人们需求更深化地了解并监测这些潜在行为。
当然，再回到AI自身。从实际层面来看，跟着AI的进一步遍及（以及被希望的那样加快开展），这项技能无疑会议示出更多潜力。但与此同时，跟着这一天的不断到来，关于AI所能带来的“
推翻
”，也将随之成为一个越来越无法疏忽的问题——它或许会遭到监管的束缚，而在此之外，它也仍需求一个满足明晰的鸿沟。封面来历：改编自《大时代》