qc302 xz05 90e0h
976 87932 x20104
当前位置:FX168财经网 >> 财经 >>

前谷歌研究人员创立SakanaAI,专注于为基础模型创建新架构

时间:2023-08-21 12:00  |  来源: IT之家   |  阅读量:12628  |  

,据路透社报道,两位著名的前谷歌研究人员 David Ha 和 Llion Jones 启动一项研究总部位于东京的新人工智能公司,创立了 Sakana AI。

IT之家从报道中获悉,Jones 是 Google 2017 年研究论文《Attention Is All You Need》的第五位作者,该论文介绍了“transformer”深度学习架构,该架构后来成为聊天机器人 ChatGPT 和当前由生成式 AI 驱动的产品开发竞赛的基础。Ha 此前曾担任 Stability AI 的研究主管和 Google Brain 研究员。

Jones 表示,Sakana AI 将专注于为基础模型创建新架构。“我们的方法不是构建一个吸收所有数据的巨大模型,而是使用大量较小的模型,每个模型都有自己独特的优势和较小的数据集,并让这些模型相互通信和协作来解决问题。”Ha 解释道。

两位联合创始人表示,Sakana 这个名字源自日语单词“さかな”,意为“鱼”,旨在唤起“一群鱼聚集在一起,通过简单的规则形成一个连贯的实体”的想法。

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。