它蕴含的可能性又要再上升数个数量级，挑战这样的游戏，OpenAI可以说是勇气可嘉的。
唯一的问题就是马斯克急了，他觉得这帮人真不是东西，要收自己十个亿美金，却放着特斯拉现在的自动驾驶大业不去发展，反而整天沉迷游戏去搞什么5v5。
简直荒唐！
“选择Dota2挺好的，这种5v5三路兵线的游戏比起围棋，复杂程度要更接近现实世界中的问题。尤其Dota2即便在moba游戏里面都算是比较困难的，对新手不大友好。游戏细节太多，各种技巧和套路也太多。”
孟繁岐的Dota2实力，差不多4000分左右。
“你还懂这个啊？”山姆有些意外，他以为孟繁岐这样成果狂出的人，肯定是没什么时间玩游戏的。
“稍微懂一点，我朋友唐璜你应该有印象，就是最开始跟我一起在IMAGE上组队的舍友，他Dota2水平很高，现在差不多6400分左右。”
按Dota2的分数分布，3000是深海鱼塘，无数大仙各显神通。
3000到5000属于中端桌，孟繁岐的水平在所有玩家里也就是中等，5000到7000属于绝对的高分局了。
可以说唐璜在这个游戏上是非常有天分的。
毕竟他其实也没有那么多的时间专门去冲分。
“那挺好的，我们现在就缺一些技术和游戏都懂的人协助帮忙。”山姆直接提出了邀请。
“有空的时候我也去看看吧，对这方面的内容我也挺感兴趣的。”OpenAI Five这款Dota2的智能，是孟繁岐少数只看了新闻，完全没有去学过代码和原理的知名项目。
触类旁通，懂还是稍懂一些的，但对细节就不是那么明白了。
对此他也非常好奇。
因为下围棋对玩家来说，就是一两百手的决策需要做出。
Dota2这样的策略游戏，单个英雄需要一盘下来需要操作上万次。
其中每次操作可能是行走、攻击、施法、使用物品、交易物品等等，根据英雄的不同，AI可选择的操作有8千～8万种。
需要判断的东西也有太多了，英雄，小兵，防御塔；血量，攻击，护甲，位置，等级；物品，技能，状态栏。
这种游戏当中，值得关注的信息点也是海量，绝非轻易能够搞明白的。
在深度学习阿尔法围棋取得世界瞩目的成绩之后，OpenAI押宝了强化学习，而孟繁岐最近则将注意力集中在了GPT大语言模型上。
“OpenAI那边的事情过段时间再看，眼下最重要的事情还是尽快出一版ChatGPT。”
虽然对OpenAI手头的事情比较感兴趣，不过事情还是要分清主次。
前世ChatGPT的出现震惊了整个世界，毫无疑问，它又强又聪明，跟它说话很好玩，还会写代码。它在多个方面的能力远远超过了自然语言处理研究者们的预期。
那么问题就来了：ChatGPT是怎么变得这么强的？
GPT技术早已有之，为何此前并没有如此强劲的威力呢？
这个问题最浅显的回答当然是数据和模型的规模，在前世，17到19年，大家还普遍在玩几个亿大小的人工智能模型。
结果ChatGPT直接就把这个数字干到了1750亿。
整整一千多倍的差距，使得人工智能模型在知识密集型任务上的性能实现了飞跃。
人们普遍认为，更多的模型参数记住了更多的知识。
数据则是另一大原因，三千亿单词的文字库加上GPT的模式，两者强强结合，产生了神奇的化学反应。
孟繁岐认为这些很容易想到的观点是正确的，但只靠这两者还远远不够。
一个非常好的例子就是GPT3，ChatGPT实际上是GPT3.5版本。
GPT3最初版的模型大小并不逊色于ChatGPT，训练使用的数据也相差不多，但实际的能力和效果确是天差地别。
不能说GPT3很弱，因为在很多任务上，它都挺出色地回应了很多指令。但同样的，在许多任务上，它的性能会非常诡异地逊色于远远小于它的模型。
因此，如果考虑到我们想要追求的是一款比较全面的通用智能的话，的确可以说GPT3不咋地。
可前世后来的许多研究都表明，其实GPT3有着很大的潜力，这些能力后来通过代码训练，指令微调和基于人类反馈的强化学习（也就是大名鼎鼎的RLHF）解锁，最终版本终于展现出了强大的威力，成为了ChatGPT。
“首先，我要做的就是先获得一个初始的GPT3，不过我现在很难做1750亿参数那么大，最多只能做到350亿参数左右。”
孟繁岐选择这个大小，是根据最新的P100显卡的显存深思熟虑之后的结果。
这里其实并不存在放不下放得下的问题，前世ChatGPT使用的A100显卡也就只有80G的显存，想放下1750亿参数那是痴人说梦。
孟繁岐有着一套拆分模型的招式，能够无限制地将庞大的模型拆分到不同的显卡上面。
理论上来说，只要显卡够多，他就能够无限制地训练更加庞大的模型。
本小章还未完~.~，请点击下一页继续阅读后面精彩内容！