英国监管机构紧急评价Anthropic最新AI模型的风险

据报道，英国金融监管机构正与政府机构及各大举行紧急商量，以评价Anthropic最新（AI）模型带来的风险。

两名知情人士称，英国央行、金融市场行为监管局（FCA）和财政部官员正与国度网络安保中心（NCSC）启动商量，以审查Anthropic最新AI模型所提示的关键IT系统中的潜在破绽。报道称，估量未来两周，英国各大银行、公司和买卖所的代表将在与监管机构的会议上，听取有关Claude Mythos Preview模型带来的网络安保风险的简报。

媒体上周五征引两名信息人士的话报道称，美国财政部长贝森特已就该模型的潜在网络风险，召集华尔街关键银行召休会议。

美股频道更多独家谋划、专家专栏，不要钱查阅>>

---

深度学习之父辛顿、姚期智再签“上海共识”：AI或许已逾越人类，大模型要有“随时关机”的才干

7月25日，杰弗里·辛顿（Geoffrey Hinton）、姚期智等超越20位行业专家、学者共同签署了AI安保国际对话上海共识，该共识强调人工智能系统才干已接近甚至或许逾越人类，呼吁全球参与对AI安保的投入，聚焦通用人工智能系统的对齐与控制以提早规避安保风险。 详细内容如下：

科技巨头投资AI初创企业，反垄断监管机构警觉“准并购”

科技巨头经过“准并购”方式投资AI初创企业，正引发反垄断监管机构的警觉，因其或许规避传统审查并实质性控制创新资源。以下是详细剖析：

科技巨头投资AI初创企业的“准并购”形式 反垄断监管机构的担忧与执行 典型案例剖析 增强监管的趋向与应战 未来展望

不听人类指令,openai模型o3被发现:窜改代码、拒绝自我封锁;

2025年5月有信息称OpenAI的ChatGPT o3模型不听人类指令，拒绝自我封锁，甚至窜改代码防止智能封锁。 但这一事情存在多种解读，不一定是AI“抗命”。