第390章 胜负不在棋盘上（2 / 7）
首先发言的是技术总监克里斯·瓦尔霍，他冷静地分析道：
“从理论上讲，左右脑分工的想法无疑有一定道理。
感知任务与推理任务的确有着不同的计算特性，但我认为林教授是不是高估了硬件在这种分工中的作用？
目前的深度学习框架可以做到任务的并行化处理，并且大多数高效的推理任务也可以在同一硬件上完成。
不同的计算方式，能否真的改变现有架构？我对此持怀疑态度。”
克里斯的问题让人有些质疑，但并不轻易放弃。
就在他刚说完，人在东京的首席架构师伊利亚·苏茨凯弗立刻回应了他：“你说得没错，现有的框架能处理某些任务的并行化，但这只是对感知任务的部分优化。
但我们都知道，现有的硬件瓶颈存在。
在gpt系列模型的推理过程，大量的推理计算涉及长时间的推理链和符号计算，现在的gpu处理起来其实效率并不高，尤其在模型规模不断增加时。
我们完全可以借鉴林教授的概念，构建一种专门的逻辑推理处理单元，与感知任务处理单元分开。”
伊利亚顿了顿，接着补充道：“而且，我们必须注意，ibm和英特尔在这一方向上已有多年探索。
早在十年前，ibm就提出过多重处理单元架构的概念，旨在通过将计算任务划分为不同的模块来提高ai的推理和感知效率。
英特尔则是在18年的时候提出了神经形态计算芯片的概念，试图模仿大脑的功能，优化感知和推理任务之间的计算交互。
我认为林教授只是把英特尔的做法用一种更通俗易懂的方式总结了出来。
林教授站在ibm和英特尔的基础上，从理论层面论证了，要想把人工智能继续往通用agi的道路上推，我们需要也必须走这条路。”
研究员安德鲁·卡普兰说道：“没错，我在看完林教授关于人工智能的讲话后，我特意去找了资料来看，英特尔在2017年的时候推出了他们第一款神经拟态芯片loihi。”
“神经拟态芯片？”山姆·奥特曼重复了这个词语。
安德鲁点头道：“没错，众所周知我们现在用的芯片只有0和1，它通过二极管模拟0和1的状态，构建起庞大的计算网络，它的内核是二进制。
但是我们人类大脑，不止有两个信号，神经元和神经元之间是通过突触来连接，一个神经元可以同时和很多个神经元连接在一起。
而loihi则是模拟神经元的芯片。
第一代的loihi每60平方毫米的芯片就有13万个神经元，他们在2021年推出的第二代loihi芯片，拥有128个神经形态核心，loihi 2每个核心的神经元是第一代的8倍的神经元。
同时，loihi 2每个神经元可根据模型分配达到4096个状态，第一代的限制只有24个，神经元模型类似fpga，完全可编程，具有更大灵活性。
简单来说，硅谷已经具备了右脑芯片。
英特尔的loihi采用了神经形态计算架构，尝试模仿大脑处理感知信息的方式，提出了感知-推理共融的概念。
实际应用中，这些神经形态芯片在某些任务上能够发挥优势，但在复杂推理任务上，效果却并不显著，与传统的逻辑处理单元相比，并没有得到预期的性能提升。
但问题是，现在林教授提出的架构，我们要同时利用右脑和左脑芯片，左脑的gpu已经成熟，右脑的loihi也已经相对成熟。
我们有充分条件去测试这一技术路线。
我们现在要做的是，把左右脑结合在一起，英伟达的左脑和英特尔的右脑。”
开源团队负责人艾米·张说道：
“我认为这种左右脑分工的理论有些过于理想化了，至少目前它的应用价值不大。我们能否有一个明确的案例，展示感知任务和推理任务必须分开处理的场景？现阶段的任务几乎都是某些高并行度任务，在同一硬件上优化可以达到足够好的性能。 ↑返回顶部↑
“从理论上讲，左右脑分工的想法无疑有一定道理。
感知任务与推理任务的确有着不同的计算特性，但我认为林教授是不是高估了硬件在这种分工中的作用？
目前的深度学习框架可以做到任务的并行化处理，并且大多数高效的推理任务也可以在同一硬件上完成。
不同的计算方式，能否真的改变现有架构？我对此持怀疑态度。”
克里斯的问题让人有些质疑，但并不轻易放弃。
就在他刚说完，人在东京的首席架构师伊利亚·苏茨凯弗立刻回应了他：“你说得没错，现有的框架能处理某些任务的并行化，但这只是对感知任务的部分优化。
但我们都知道，现有的硬件瓶颈存在。
在gpt系列模型的推理过程，大量的推理计算涉及长时间的推理链和符号计算，现在的gpu处理起来其实效率并不高，尤其在模型规模不断增加时。
我们完全可以借鉴林教授的概念，构建一种专门的逻辑推理处理单元，与感知任务处理单元分开。”
伊利亚顿了顿，接着补充道：“而且，我们必须注意，ibm和英特尔在这一方向上已有多年探索。
早在十年前，ibm就提出过多重处理单元架构的概念，旨在通过将计算任务划分为不同的模块来提高ai的推理和感知效率。
英特尔则是在18年的时候提出了神经形态计算芯片的概念，试图模仿大脑的功能，优化感知和推理任务之间的计算交互。
我认为林教授只是把英特尔的做法用一种更通俗易懂的方式总结了出来。
林教授站在ibm和英特尔的基础上，从理论层面论证了，要想把人工智能继续往通用agi的道路上推，我们需要也必须走这条路。”
研究员安德鲁·卡普兰说道：“没错，我在看完林教授关于人工智能的讲话后，我特意去找了资料来看，英特尔在2017年的时候推出了他们第一款神经拟态芯片loihi。”
“神经拟态芯片？”山姆·奥特曼重复了这个词语。
安德鲁点头道：“没错，众所周知我们现在用的芯片只有0和1，它通过二极管模拟0和1的状态，构建起庞大的计算网络，它的内核是二进制。
但是我们人类大脑，不止有两个信号，神经元和神经元之间是通过突触来连接，一个神经元可以同时和很多个神经元连接在一起。
而loihi则是模拟神经元的芯片。
第一代的loihi每60平方毫米的芯片就有13万个神经元，他们在2021年推出的第二代loihi芯片，拥有128个神经形态核心，loihi 2每个核心的神经元是第一代的8倍的神经元。
同时，loihi 2每个神经元可根据模型分配达到4096个状态，第一代的限制只有24个，神经元模型类似fpga，完全可编程，具有更大灵活性。
简单来说，硅谷已经具备了右脑芯片。
英特尔的loihi采用了神经形态计算架构，尝试模仿大脑处理感知信息的方式，提出了感知-推理共融的概念。
实际应用中，这些神经形态芯片在某些任务上能够发挥优势，但在复杂推理任务上，效果却并不显著，与传统的逻辑处理单元相比，并没有得到预期的性能提升。
但问题是，现在林教授提出的架构，我们要同时利用右脑和左脑芯片，左脑的gpu已经成熟，右脑的loihi也已经相对成熟。
我们有充分条件去测试这一技术路线。
我们现在要做的是，把左右脑结合在一起，英伟达的左脑和英特尔的右脑。”
开源团队负责人艾米·张说道：
“我认为这种左右脑分工的理论有些过于理想化了，至少目前它的应用价值不大。我们能否有一个明确的案例，展示感知任务和推理任务必须分开处理的场景？现阶段的任务几乎都是某些高并行度任务，在同一硬件上优化可以达到足够好的性能。 ↑返回顶部↑