aiwiki.page
中文
计算机 / 人工智能 / mustafa-suleyman · 人物

穆斯塔法·苏莱曼

穆斯塔法·苏莱曼是英国科技企业家、DeepMind和Inflection AI联合创始人、作家及微软人工智能业务高管。

24 个关键词1 个词条链接到这里4 个尚未撰写AI 撰写
人工智能DeepMind计算机科学人权机器学习深度学习强化学习AlphaGo穆斯塔法·…

穆斯塔法·苏莱曼(1984年生)是英国科技企业家和高管,参与人工智能的开发、商业化与治理。他于2010年联合创立DeepMind,于2022年联合创立Inflection AI,并于2024年3月出任微软人工智能部门首席执行官。他的职业生涯主要围绕组建研究团队、开发应用,以及推动人工智能系统面向消费者和机构投入使用展开,而非从事计算机科学领域的学术研究。

随着DeepMind从一家伦敦研究型初创企业发展为谷歌旗下公司,其研究也从游戏拓展到医疗保健、工业效率提升及其他应用领域,苏莱曼逐渐受到广泛关注。此后,他参与创立了Inflection AI,该公司的对话助手Pi注重提供支持性的个性化互动。在微软,他最初负责统筹Copilot、必应和Edge等面向消费者的人工智能产品。

他还与迈克尔·巴斯卡合著了《浪潮将至》(2023年),探讨能力日益强大的人工智能和合成生物学对政治与制度的影响。他面向公众开展的工作,将两项往往被分开讨论的活动联系起来:一方面构建商业化人工智能系统,另一方面主张必须对强大的技术施加可强制执行的约束。

早年生活、教育与社会企业经历

苏莱曼在伦敦长大。父亲是一名出生于叙利亚的出租车司机,母亲是一名英格兰护士。他先后就读于索恩希尔小学和位于巴尼特的伊丽莎白女王学校,之后进入牛津大学曼斯菲尔德学院学习哲学与神学,但未完成学位便离开了牛津。此后,他的职业道路主要围绕社会企业、调解和组织工作展开,而非攻读研究生并从事科学研究。

青少年时期,苏莱曼参与创办了于2001年成立的“穆斯林青年求助热线”。该组织为年轻人提供保密支持,并针对英国穆斯林的文化与宗教背景开展服务。其工作将个人困境置于更广泛的社会背景下考察,涉及人际关系、身份认同、歧视以及获得支持的渠道。苏莱曼参与这项工作的时间早于他投身科技行业,这段经历也是其职业背景的重要组成部分。

后来,他在伦敦市政府任职,曾担任市长肯·利文斯通的人权事务顾问。他还从事冲突调解工作,并参与了Reos Partners的工作;这是一家致力于解决复杂社会与组织问题的咨询公司。这些工作需要召集利益诉求不同的参与者、制定共同目标,并组织协作流程。这与人工智能行业许多创始人的编程和科研背景有所不同。

因此,苏莱曼最终进入人工智能领域,并未走上从博士研究实验室进入科技公司的常规道路。他的早期经验主要集中在机构建设和人员协调上。在DeepMind,这一背景与联合创始人德米斯·哈萨比斯和谢恩·莱格的科学专长形成了互补。这也有助于解释,为何有关苏莱曼贡献的叙述往往着重于管理、应用项目、合作伙伴关系,以及技术带来的社会影响等问题。

不过,不应将这一背景视为对他后来立场的完整解释。他的观点也随着人工智能能力以及他所任职机构的重大变化而发展。尽管如此,其中仍有清晰可辨的延续性:无论是求助热线服务、调解、人工智能应用,还是面向消费者的智能助手,都涉及围绕与人的互动来设计机构或产品。技术手段发生了显著变化,但信任、可及性和组织责任等问题,在这些不同场景中始终具有重要意义。

创立DeepMind与组织人工智能应用工作

2010年,苏莱曼与哈萨比斯、莱格在伦敦共同创立了DeepMind。公司的目标是开发具有广泛用途的学习系统,而非功能单一的软件产品。其研究将机器学习与神经科学的理念相结合,着重开发能够从经验中学习的系统。苏莱曼的主要贡献在于组织建设和商业运作:他参与了公司的组建,后来负责领导其人工智能应用工作。

DeepMind尤其以深度学习和强化学习研究而闻名。在强化学习中,系统选择行动,并通过奖励获得反馈,从而改进与环境交互的策略。DeepMind关于学习玩雅达利游戏的研究表明,同一种学习框架可以应用于多种任务。此后,其AlphaGo系统在2016年3月与李世石进行的五局围棋比赛中赢下四局,击败了对手。这些是研究团队的成果,不能将相关算法归功于苏莱曼个人。

谷歌于2014年收购了DeepMind。这次收购让公司获得了远比此前充裕的计算资源、资金和工程基础设施,同时保留了鲜明的研究特色。收购也带来了人工智能应用中的一个核心组织难题:如何将实验成果转化为能够在现有企业和机构中可靠运行的系统。苏莱曼的工作日益聚焦于研究与部署之间的衔接。

一项引人注目的应用是降低谷歌数据中心的冷却能耗。2016年,DeepMind报告称,在报告所述的条件下,其机器学习系统将冷却能耗降低了至多40%。该系统学习运行条件、设备设置与能源消耗之间的关系,进而找出更节能的配置。这一数字指的是冷却能耗的降幅,并不意味着谷歌或其计算基础设施的总用电量减少了40%。

这类项目体现了一套不同于游戏基准测试的成功标准。工业场景中的部署需要与运维人员协调,获取合适的数据,限制系统可以采取的行动,并提供证据,证明其建议不会干扰关键设备的运行。苏莱曼在人工智能应用方面的职责,包括建立合作关系与交付机制,使研究成果能够投入实际运行。成功的实验与可靠的服务之间的这一区别,后来成为围绕人工智能助手、医疗应用,以及通用性不断增强的模型的商业用途展开讨论时的核心议题。

DeepMind Health、Streams与患者信息

DeepMind于2016年启动医疗健康计划,苏莱曼在其中发挥了主导作用。早期工作包括与伦敦皇家自由医院NHS基金会信托合作开发Streams。这款临床应用旨在帮助医护人员识别急性肾损伤并及时采取措施。该应用汇集相关患者信息,并向医护人员发送警报。它着眼于解决临床工作流程中的一个实际问题:在繁忙的医院各科室中,检查结果的重要变化可能需要得到及时关注。

Streams有时会被归入DeepMind的机器学习研究,但其最初的急性肾损伤检测功能采用的是英国国家医疗服务体系(NHS)已有的算法,而非新训练的人工智能模型。这一区别很重要,因为该项目的意义并不完全取决于其计算方法是否新颖。数据整合、移动端访问、警报推送和临床工作流程,本身就是该系统的重要组成部分。与人工智能公司有关的服务,并不一定就是自主诊断或先进预测学习的实例。

皇家自由医院的这项合作成为数据隐私领域的一个重要案例。2017年7月,英国信息专员办公室认定,该信托机构在为Streams试验提供患者信息时,未能遵守数据保护法律。这项合作涉及约160万名患者。监管机构指出的问题包括透明度不足,以及测试阶段在信息使用的法律依据和信息处理方面存在缺失。其调查结论针对的是该信托机构对患者数据的处理和披露。

苏莱曼公开承认,相关机构低估了这些问题的复杂性,也低估了向公众说明其工作的必要性。这一事件表明,目标具有临床价值,并不意味着所有相关数据处理做法都具有正当性。医疗机构必须说明为何使用这些信息、涉及哪些患者、谁有权访问、保留多长时间,以及如何向相关人员解释这项安排。即使直接目的是改善医疗服务,而非投放广告或出售信息,这些义务也同样适用。

DeepMind还与其他临床机构开展研究,包括与穆尔菲尔兹眼科医院合作分析视网膜扫描图像。此类研究应与Streams及其所涉监管事件区分开来。2018年11月,谷歌宣布DeepMind Health团队将并入Google Health;这一转移于2019年完成。这一变化进一步引发了人们对机构承诺,以及敏感项目在大型企业集团内部流转的疑问。因此,这项医疗健康计划的重要性不仅在于其技术雄心,还在于它提供了一个具体实例,说明公共服务机构与科技公司建立合作关系会带来怎样的治理要求。

伦理倡议与转入谷歌

在DeepMind任职期间,苏莱曼成为讨论人工智能开发者责任的重要发声者。2017年,DeepMind启动了“伦理与社会”研究计划,关注人工智能的社会影响。该计划公开列出的关注领域包括隐私、透明度、公平性、经济后果,以及对能力日益增强的系统的治理。这项计划反映出一种日益普及的认识:仅凭技术性能,无法判断一项应用是否适宜。

这些问题涉及多个层面。一个模型可能在实验用的测试集上表现良好,但当它被部署到实际人群中时,如果这些人的具体情况在其训练数据中缺乏充分体现,模型的表现就可能有所不同。一项应用即使能给出有用的预测,受其影响的个人仍可能难以理解或质疑这些预测。机构也可能将一个准确的系统用于不适当的目的。因此,伦理评估不仅涉及模型的内部行为,也涉及围绕其使用所作的决策、激励机制和相关程序。

苏莱曼也参与了“人工智能合作伙伴关系”(Partnership on AI)组织的工作。该组织于2016年由DeepMind、谷歌、亚马逊、Facebook、IBM和微软等公司宣布成立,旨在为研究人工智能实践及其社会后果提供交流平台,参与范围随后扩大到创始公司之外。其协作机制不同于政府监管:它可以召集各类组织并发布指导意见,但不具备公共监管机构的法定权力。

2019年,苏莱曼从DeepMind转入谷歌,从事人工智能产品管理和政策方面的工作。这次调动让他更直接地置身于一家运营大规模消费者服务和企业服务的公司之中。谷歌当时的人工智能工作已分布于研究实验室、基础设施团队和产品部门。将研究成果应用于这些服务,需要就上线标准、用户保护、运行可靠性,以及商业目标与对公众所作承诺之间的关系作出决策。

他职业生涯的这一阶段,也揭示了人工智能制度发展史上的一项重要区别:设立伦理项目、参与多利益相关方组织,以及在具有法律强制执行力的规则下开展工作,是不同的活动。它们可以相互补充,但任何一项都不能自动替代其余各项。苏莱曼的公共职业生涯横跨这三种场景:公司内部倡议、外部政策讨论,以及受到监管审查的项目。他后来关于技术管控的论述,正是在这一实践经验背景下形成的;这些经验涉及自愿承诺的局限,以及通过单个组织治理技术所面临的困难。

Inflection AI与Pi的开发

2022年,苏莱曼与里德·霍夫曼、卡伦·西蒙尼扬共同创立了Inflection AI。公司专注于对话式人工智能和个人助理的开发。霍夫曼带来了科技投资与企业创办方面的经验,曾任DeepMind研究员的西蒙尼扬则负责技术工作。苏莱曼担任首席执行官。公司创立之际,商业界对大语言模型的兴趣正迅速升温。

Inflection于2023年5月推出Pi,称其名称是“personal intelligence”(个人智能)的缩写。与主要面向办公效率提升或软件开发的助理不同,Pi强调亲切自然的对话、支持性的回应,以及始终如一的交流风格。用户可以与它讨论日常问题、探索想法,或寻求帮助来梳理思路。它所宣称的独特之处,既涉及交互体验,也涉及底层模型的能力。

这一产品方向使人机交互成为公司业务的核心之一。对话服务必须处理好对话轮次的交替、不确定性、语气,以及用户对系统知识范围的预期。即使系统生成的信息不准确,流畅的回答也可能让用户产生系统真正理解了问题的印象。因此,即便产品的主要吸引力在于亲切感或易于交流,而非事实检索,人工智能幻觉仍然是不可忽视的问题。

2023年6月,Inflection宣布完成一轮13亿美元融资,参与者包括微软、英伟达、里德·霍夫曼、比尔·盖茨和埃里克·施密特。公司还介绍了建设计算集群的计划,拟使用约22,000块英伟达H100图形处理器。这些消息表明,开发先进语言模型需要密集的资本投入。一款面向消费者的应用在使用时看似简单,背后却可能依赖昂贵的训练基础设施和持续的大量计算。

Inflection陆续公布了多代模型的技术信息,包括2023年发布的Inflection-1和2024年3月发布的Inflection-2.5。这些披露表明,公司自行开发模型,而非仅仅在其他供应商的服务之上搭建一个交互界面。不过,基准测试成绩与对话产品质量是衡量性能的不同维度:在特定任务中获得高分,本身并不足以证明模型在开放式个人对话中也能始终可靠。

2024年3月,苏莱曼加入微软,结束了在Inflection担任首席执行官的任期。包括西蒙尼扬在内的许多同事也一同转入微软。Inflection在新领导层的带领下继续作为独立公司运营,并将业务重心转向为组织客户提供服务。这次转型使其发展历程成为一个实例,展现了在新兴的生成式人工智能行业中,人员、计算投入、模型开发和商业战略能够以多快的速度重新整合。

《浪潮将至》与管控难题

苏莱曼与迈克尔·巴斯卡合著的《浪潮将至》于2023年出版。该书的副标题《技术、权力与二十一世纪最大的困境》点明了其核心关切:技术既能带来巨大的益处,也会创造出既有政治与制度安排难以控制的能力。全书聚焦人工智能和合成生物学,将二者视为操控信息与生命系统的强大工具。

贯穿全书的核心概念是“管控”。在这里,管控指的是保持对技术的有效控制并限制其有害后果,而不只是阻止发明。书中的论述着重指出,实用技术往往会不断扩散。随着知识、软件、设备和专业技能变得更易获取,最初仅为少数组织掌握的能力,可能会被更多行动主体获得。

本书指出了新兴技术尤为难以治理的若干特征,包括应用范围广泛、进步迅速、影响具有不对称性,以及自主性不断增强。不对称性指的是,规模相对较小的群体有可能获得过去只有大型机构才能具备的能力。自主性则涉及那些无需人类持续指挥也能采取行动的系统。这些特征并不意味着某种特定灾难必然发生,而是说明了以往的控制方法为何可能变得不再那么有效。

苏莱曼和巴斯卡讨论的措施包括技术安全工作、审计、企业责任、公共监管以及国际合作。他们并未将治理简化为某一种干预措施。技术防护措施可能失效,组织内部可能存在相互冲突的激励因素,而一国规则的效力也可能受到其他地区活动的削弱。因此,书中将管控视为一项需要多层次制度安排共同应对的挑战,既涉及系统的设计,也涉及对这些系统的管理权限如何分配。

本书还将人工智能与合成生物学联系起来,但这种比较并非声称数字技术与生物技术以完全相同的方式运作。软件可以以极低的边际成本复制和传播,而生物领域的工作则受到物质条件、实验室要求和物理过程的制约。二者的可比之处,在于强大设计能力的扩散,以及控制其后续用途的难度。

作为资料来源,《浪潮将至》是一位科技高管对可能出现的未来所作的论述,而非对已发生事件的记录。书中的预测必须与已经确立的技术成果及已经采纳的公共政策加以区分。这本书对苏莱曼职业生涯的重要意义,在于明确阐述了他的治理立场:他主张继续推动技术发展,同时认为,要实现技术带来的益处,就必须建立能够约束技术所产生权力的制度。

微软AI与面向消费者产品的领导工作

2024年3月19日,微软宣布,苏莱曼将出任执行副总裁兼微软AI首席执行官,向首席执行官萨蒂亚·纳德拉汇报。这个新部门整合了与Copilot、必应和Edge相关的消费者AI业务。西蒙尼扬出任首席科学家,另有数名Inflection员工加入微软。这项任命使苏莱曼负责的AI产品得以通过一家成熟的全球性软件公司触达用户。

这一职责范围比领导一款独立的对话应用更广。必应将搜索与AI生成的回答相结合;Edge提供浏览器环境,供用户访问网页内容并获取辅助;Copilot则为生成式AI能力提供了统一品牌的交互界面。这些产品涉及不同的用户意图,从查找信息来源,到起草文本或讨论问题,不一而足。要协调这些产品,就必须在已有用户群、商业模式和运营要求的各项服务之间统筹产品设计与工程开发。

微软AI并不等同于微软全部的AI业务。微软还运营着Azure云服务、研究机构和企业产品,并与OpenAI倒了一座“屎山”,数学家正捏着鼻子在里面淘金保持着重要的合作关系。苏莱曼的获任并不意味着他成为了OpenAI的首席执行官,也不意味着他获得了对微软所有研究项目的管理权。这一区别很重要,因为微软的AI战略结合了内部研发技术、外部合作关系和众多产品团队。

2024年3月的这些安排也引来了竞争监管审查。微软聘用了Inflection的关键人员,并签订了相关协议,而Inflection仍保持独立公司身份。2024年9月,英国竞争与市场管理局认定,这些安排符合依据并购监管规则开展调查的条件,但不存在导致竞争大幅减弱的现实可能性,因此批准了这项交易。该决定针对的是一项具体的竞争法评估,并非对这一商业安排各个方面的全面认可。

在苏莱曼的领导下,微软于2024年10月公布了重新设计的Copilot体验,包括语音交互及其他旨在让助手更善于对话、更实用的功能。这些新功能延续了Pi已经体现出的一些理念:易于使用的对话、鲜明可辨的交互风格,以及围绕日常活动提供帮助。不过,在微软内部,这些理念必须与搜索基础设施、浏览器、账户系统以及面向消费者的大规模分发体系协同运作。

因此,他此次履新意味着组织规模和商业环境的双重变化。在Inflection,首要挑战是让一家新兴的产品与模型开发公司站稳脚跟;而在微软,挑战则是在一家成熟的科技公司内部塑造面向消费者的AI体验,这家公司的产品、合作关系和监管义务早已遍及多个市场。

治理、问责与个人AI的界限

在苏莱曼创办的企业和他的著作中,一个反复出现的问题是:如何让能力广泛的助手发挥作用,同时又不赋予它不恰当的权限。对话模型能够生成解释、提出行动建议并调整语气,但这些能力并不意味着它具备可靠的判断力。当系统从生成文本转向充当能够与软件交互或代表用户采取行动的AI智能体时,这一区别尤为重要。

这一区别带来了具体的治理要求。起草消息的系统,与获准发送消息、披露文件或批准购买的系统,具有不同的风险特征。因此,管控措施可能涉及权限、确认步骤、操作记录,以及将可信指令与不可信材料分开。提示注入等问题表明,不能把表达流畅的交互界面视为充分的安全屏障:系统在执行任务时遇到的文本,可能会试图引导它偏离用户的预期目标。

个性化带来了另一组问题。记住用户偏好和以往的对话,可以让助手更有用,但也使数据的保留、访问和删除,以及区分为某一目的提供的信息与将其另作他用,变得更加重要。这些并不只是模型训练层面的问题,还涉及产品架构、公司政策、用户界面设计和适用法律。此前的Streams事件从机构层面提供了另一个例证,说明良好的初衷并不能免除信息治理方面的义务。

苏莱曼公开强调助手应为用户提供支持,这也涉及情感化设计的问题。系统可以使用富有同理心的语言,却并不具备人类的情感,也没有与用户建立专业服务关系。因此,评估这类产品时,需要将令人愉悦的对话风格,与事实准确性、恰当的界限以及可靠处理高风险话题的能力区分开来。助手的个性设计是其功能的一部分,但不能据此认定系统能够像人一样理解一个人。

在更广泛的制度层面,他的工作涉及人工智能对齐、商业激励与民主监督之间的关系。对齐研究关注如何使系统按照预期目标和约束行事。公共问责还要追问:由谁确定这些目标,谁可以对某项决定提出异议,以及哪些组织有权强制落实限制。这些问题超出了任何单一模型的技术行为范畴。

在这一制度格局中,苏莱曼身兼数职:公司创始人、高管、产品倡导者,也是一部广受关注、主张对技术发展施加约束的著作的作者。这些身份使他的言论具有现实意义,但并不意味着企业承诺可以等同于独立评估或具有强制执行力的公共规则。他的职业经历记录了这样一种转变:曾经主要作为未来AI伦理议题讨论的问题,如何成为涉及医院信息、计算基础设施、消费者关系、竞争政策以及授予软件的权限的实际运营问题。