“讲卡伤爱情，没卡没爱情”，沈向洋对大模型的八点考虑

在2024外滩大会上，针对大模型年代的时机与应战，香港科技大学校董会主席、美国国家工程院外籍院士沈向洋共享了他的八项考虑。以下是科技对沈向洋讲演内容的收拾：

考虑一、算力是门槛

沈向洋表明，现在做大模型、做深度学习，首要最重要的工作是要有算力：从2010年、2012年开端，每年有6、7倍的增加，最近这几年稳定下来，大约每年有4倍的增加。

在沈向洋看来，算力的增加原因便是大模型越来越大、参数量越来越大，所以算力跟着参数的增加，呈现了一个平方向的增加。

沈向洋笑称，这几年他提出一句话，叫“讲卡伤爱情，没卡没爱情”，一个真实做大模型的公司，假如没有1万张卡，都无法说自己是做大模型的公司；假如没有卡、没钱，今后最大的问题便是赤贫约束了想象力。

他以摩尔规律为例，曾经CPU的增加遵从着摩尔规律：18个月算力涨1倍；但现在，摩尔规律现已变成了黄氏规律，现在GPU一年得涨4倍的算力，一年涨4倍，十年下来便是100万倍。

这便是算力的门槛。

考虑二、关于数据的数据

沈向洋表明，在GPT3出来的时分，大约是2个T的token；到了GPT4的时分，其时大约是12个T左右的数据，现在GPT4、GPT4O大约是20T的数据；而等GPT5出来的时分，估计大约会是200个T的数据，但互联网挖不出200T的数据，还需求想其他的方法处理数据的问题。在他看来，互联网40年堆集的数据，如同便是为了这样一个AI的时刻?

考虑三、大模型的下一章

沈向洋表明，大模型开展到现在，下一步要做什么需求十分明晰的思路：从本来的言语模型、文本，接下来要做多模态；而现在的多模态Sora模型尽管做得十分好，但还不是那么强壮，里边的物理性质是不能确保的，做不到一个国际模型。沈向洋以为，未来必定要往具身智能走，必定要往机器人走，机器人的一个特别形状便是自动驾驶。

技术上来讲，沈向洋以为必定要走生成和了解归纳起来的路途，然后走向AGI。

考虑四、大模型横扫千行百业

沈向洋表明，大模型现在对整个职业的影响，会有许多许多时机；回到关于算力的需求，今日做通用大模型至少需求上万张卡，并且再往前1万张A卡都不行了，需求1万张H卡；做职业大模型，比方要到达千卡等级；自己公司做企业大模型，或许要百卡练习；但更令人激动的工作是，未来将是个人大模型，现在比方联想、微软推的AIPC，苹果的Apple Intelligence，都是朝着Personal Intelligence在开展。

沈向洋共享的数据显现，到7月底我国存案大模型一共是存案了197个，大约有30%是通用大模型，70%是职业大模型，未来必定是职业大模型越来越多。

考虑五、AI Agent--从愿景到落地

沈向洋表明，现在咱们都在评论讲大模型出来后，人工智能年代真实了不得的超级使用会是什么？实践上超级使用一向存在，便是咱们干不出来，那便是AI Agent。沈向洋以为，ChatGPT尽管很了不得、很强壮，可是远远没有到Agent的境地。Agent是把人的生产力进步到了一个十分高的高度。在他看来，当下的工作流十分之杂乱，但GPT现在还只能是单点的打破，真实要向前走，是要把工作流弄起来，要把职业进行剖析，从自身的大模型使用框架到渠道，再到常识技术、使命、对话悉数接起来，才能够做到这样的成果。

在使用方面，沈向洋表明，他对许多我国公司未来的开展十分有决心。

考虑六、注重AI的管理

沈向洋表明，本年国际人工智能大会的主题便是AI管理，这件工作十分重要，并且每个国家对这件工作观点也是有许多不一样的，这件工作AI对民众的冲击、公司的冲击、政府监管的冲击、社会开展的冲击，都令人忧虑，比方人工智能会不会影响美国大选的成果。

沈向洋以为，接下来人工智能开展很重要的一点，从全球各个国家视点来讲，必定要做主权人工智能，主权人工智能背面必定需求有一个主权云来支撑主权人工智能的开展。

考虑七、从头考虑人机联系

沈向洋提问，GPT给咱们带来的冲击，有多少是人机交互的震慑？又有多少究竟是机器智能的开展？他表明，《纽约时报》专栏作家John Markoff写的《Machines of Loving Grace》梳理了曩昔50年计算机科学开展的两条主线，一条主线便是AI：Artificial Intelligence, 第二条线是IA： Intelligent Augmentation（智能增强）。实践上曩昔这几十年的开展主要是人机交互里边的打破，人工智能在适当长的时刻里仍是一个东西。曩昔这四五十年里，图形界面年代出了一个了不得的东西，叫做Windows，产生了一家巨大的公司，叫微软；互联网年代来了，出来一个东西，叫查找，出来一家公司叫谷歌；然后到了移动互联网引荐，现在又到了AI年代，人机交互最实质的是什么？最实质的是对话，就像ChatGPT这样。ChatGPT加上微软，会不会成为AI年代最巨大的公司？只要时刻才能够验证。

考虑八、智能的实质，神经网络与符号体系的世纪之争

沈向洋表明，尽管GPT现已如火如荼了，乃至GPT6也或许呈现；但实践从做学问的视点回过头来想想，今日对智能的了解仍是十分有限的；这跟物理学十分不一样，物理上到众多的星空，下到细小的量子，都期望弄一个大一统的理论来解说，可是今日深度学习尽管体系做的如同很像模像样，可是许多东西不能够解说，也不是很鲁棒（鲁棒性是指体系在反常和风险情况下生计的才能）。

沈向洋表明，GPT3出来了今后，有一个东西叫做智能出现出来，可是为什么出现出来？什么时分出现出来？是什么方法出现出来？这都是讲不清楚的。所以去年在香港科技大学聚集了一批海内外计算机科学家，在一起评论出现智能背面的数学原理究竟是什么。

沈向洋最终总结，今日人工智能的开展还在一个相对来讲比较前期的阶段，可是职业上现已有许多的使用，值得下定决心做了，他对未来的开展充满决心。（平章）