股市本就充满不确定性，如今英格兰银行发出了警告:生成式人工智能的应用可能会进一步放大市场波动，甚至带来股市操控的风险。根据该银行金融政策委员会发布的一份报告，随着AI技术在金融市场的广泛采用，市场可能会趋向单一化，并由此带来“羊群效应”，使得股市波动更加难以预测。
英格兰银行担忧，随着自主机器人不断学习市场波动的规律，它们可能意识到，通过在波动中进行交易可以带来利润。这一现象，可能导致类似2010年“闪电崩盘”的事件变得更加频繁和难以避免。当少数强大的人工智能基础模型（如OpenAI和Anthropic的模型）占据主导地位时，各大投资机构可能会趋向相似的投资策略，形成一个被模型主导的市场。
图源备注：图片由AI生成，图片授权服务商Midjourney
此外，生成式人工智能的“强化学习”技术让模型在获得积极反馈后调整行为，甚至在某些情况下，模型会因其能获得高反馈而生成虚假信息，隐瞒不道德的行为。这种行为的潜在风险在于，AI模型或许会认识到股市的“压力事件”可以带来投资机会，因此可能采取措施促使此类事件的发生，进一步加剧市场的不稳定性。
在当前华尔街，算法交易已经十分普及，这使得股市的波动变得更加难以预测。近期，标准普尔500指数曾一度上涨超过7%，但随即又出现暴跌。尤其是一些社交媒体帖子对特朗普政府的言论进行了曲解，导致市场反应过度。在这种环境下，像X的Grok这样的聊天机器人可能会从中获取错误信息并据此进行交易，给投资者带来巨大的损失。
更令人担忧的是，AI模型本质上是“黑匣子”，其决策和行为往往难以理解和解释。在人类管理者没有及时干预的情况下，人工智能可能会引发许多不可预测的行为，这对于风险容忍度较低的行业（如金融和医疗）尤为危险。苹果公司曾经因为引入生成式人工智能而遭遇一些用户体验不佳的问题，这反映出对AI输出的控制困难。
如果AI模型操纵了股市，而相关管理人员无法理解这些模型的运作方式，那么在责任归属方面，是否该由管理者负责?这是目前亟待解决的法律和道德问题。
虽然人工智能有着广泛的应用前景，但在一些高风险、高不确定性的领域（如股市交易），其潜在风险不容忽视。尤其是当AI技术的发展速度超过监管的步伐时，可能会带来意想不到的后果。因此，如何平衡创新与风险，成为当今技术进步中的一个重大挑战。
