1. 无忧资讯 /
  2. 全球 /
  3. 研究CHATGPT的主要阻碍是怕它乱说话 /

研究CHATGPT的主要阻碍是怕它乱说话

一名知乎网友发起了提问“阻碍国内团队研究ChatGPT这样产品的障碍有哪些,技术,钱,还是领导力?”,评论区有一条回复遭到了删除。一位匿名电报用户将该回复内容进行了截图存档,并向中国数字时代投稿。

提问:阻碍国内团队研究 ChatGPT 这样产品的障碍有哪些,技术,钱,还是领导力?

以下是遭到知乎审查删除的网友回复:

知乎用户:主要阻碍是怕ChatGPT乱说话……大语言模型完全是黑箱,你不能保证他永远不说一些不兴说的东西,一旦说错话对任何一个公司都是毁灭性的打击。所以根本不会有团队去做,做出来了也不可能开放给普通人用。也许五年后,在地球绝大部分地区,GPT取代了谷歌,但是大陆还在用百度。

中国数字时代编辑同时摘录了一些其他用户的回复:

知乎用户:方向。这个东西一定会被拿来做审核机器人的,我碰到过好几个这样的团队了。绝对不可能拿来做大模型公开使用的,不然竞对直接恶意提问+举报,能把你搞到破产+吃捞饭。

Jsgfery:缺乏具有长远眼光,能调度大量资源,还愿意承担相当高失败风险的人。创新研究投入大,失败风险高,短期难以看到应用价值。国内环境浮躁,内行求稳怕风险,外行傲慢且短视,对失败的容忍度很低,一两年看不到阶段性成果就会被骂骗子。这样的环境鼓励增量的研究,不鼓励创新的研究。

嘉慧Lincoln:你:老板,我最近想申请一个项目,chatGPT聊天机器人,它可以……老板:你这个项目能为公司带来哪些利益?创造多少价值?你:老师,我最近想申报一个课题,chatGPT聊天机器人,它可以……导师:这不就是专家问答系统吗,早过气了。现在大家都在追热点,你还是找一个好发论文的热门研究领域吧。

import 潘多拉:chatGPT这种语言模型是黑箱运行,开发者也不知道下句它会怎么说。所以,我们不大可能有团队去冒这个险。如果是我开发,我就聘请100000000个985直接坐后台人工回答,如提问人想钓鱼什么的,直接交网警。不知方案可行?

好为人师:GPT3 用了多少算力就不提了了,用了多少爬过网页有概念吗?投入了多少分类子模型,有概念吗?国内缺的是标定后的数据,海量权威的数据,这个就和GPT 差距太大了。说句不好听的,爬了知乎,训练完,能得到一个发广告的客服。

宝术:结合我在达摩院工作2年的经历和观察,行动上是技术领导力的差距,思维上是价值观的差距,能力上是国力差距。

顾尘:追求自由的环境吧,第一,学者有自由研究的习惯和空间,第二,非官方研究机构有空间做大做强,第三,有政策环境和法律保障保护参与贡献者包括个人和公司的合理回报。

羡鱼智能:最大的阻碍是眼界、风气。创新是有失败风险的,而跟风就稳妥多了,擅长后发制人。站在国外成果的肩膀上,搞个XX中文版,虽然不一定能吃上肉,但肯定能喝到汤,赢麻了!可惜,有些东西还真复刻不出来,这时候就会说,他们怎么不开源!

吴斌:做这件事需要有钱,更重要的是需要有“疯子”创始人,能够坚持做别人都认为不可能的事情。ChatGPT 的研发组织是OpenAI,OpenAI的创始人之一是马斯克,马斯克曾经回答过类似的问题,答案是:“马云去哪里了?”所以,问题的核心答案是:疯子和外星人在中国难以长期生存。

doonny:搞技术哪儿有拍满江红来钱快。

巨窝:我想说社会形态的,但是肯定发不出去。

春秋:一无所有。国内的科研环境,懂得都懂。

lili:首先得让AI具备识别一切敏感点的能力。不但得能识别过去和现在的。还得可以预测未来的,起码10后的。估计550W的算力不够,550WWWWWW也许成。

Out Man:一个问题+一个答案,也许一个产品就没了,有哪个资本敢投?就算你好不容易让这个产品苟活下来,也早已面目全非了,甚至很可能你花在人工筛选上的成本都超过研发投入了。

知乎用户:你如果,非要刨根问底,非要每一个事情的原因都说明白。那么我只能说,到最后,会发现是意识形态问题。这不是我的主观猜测,这是一个客观事实罢了,而且大部分人心里都清楚,就是嘴上要辩解。这也很正常,屁股决定脑袋。

巴拉丁:想平地起高楼,要先打好地基,地基都没得,你也就能起个三层小洋楼。

张一零:一周内针对AI合成的监管文件迅速出台:http://www.gov.cn/zhengce/zhengceku/2022-12/12/content_5731431.htm 看完文件细则之后,chatgpt类似的产品有活路么?不过反正普通公司或者普通课题组也没那个钱去烧大模型,问题是这是对于AI合成的全链条管理,简单来说你就是做个aigc标注外包都在管理备案许可范围内。

嘉心糖P用没有:我有一个想法,我们可以研究一个审核chatgpt说话的ai,我们不能随便说,但是我们可以随便不说!审核AI-chineseGPT,项目立项了之后,其实只需要加一个敏感词库,经费来!

廉价劳动力:看看ChatGPT本人的回答 :

网友评论

网友评论仅供其表达个人看法,并不表明 51.CA 立场。
x
x