微软“大招”效果惊人:BingChat开放后GPU增速追不上用户增长
发布时间:2023-05-09 16:13:39
5月9日,早些时候,微软放出“爆炸性消息”,宣布基于声称是人工智能的BingChat,将免费向所有用户开放,无需任何资格申请。
近日,有用户反馈,BingChat出现了响应等待时间过长的问题,目前微软广告和网络服务负责人米哈伊尔·帕拉欣已经就此做出回应。
根据帕拉欣的回应,BingChat的响应延迟问题,是由于目前团队增加GPU的速度,已经追不上用户增加的速度,导致模型存在一定的算力不足问题。
同时,官方承诺,将尽快解决这一问题。
目前,微软并未公布BingChat的正常运行需要多少GPU,但根据调研机构TrendForce的报告,以NVIDIA A100的算力为标准的话,运行它将需要至少30000块GPU。