simpleGRPO实现分享-FDU

原创 已于 2025-05-16 11:13:44 修改 · 195 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#LLM

于 2025-03-11 19:39:34 首次发布

在这里插入图片描述

datafun._talk

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
lr设置小一点，否则会崩溃。

在这里插入图片描述
百步以内，达到90%的format效果和准确率效果；
aha moment，本身不是由RL产生的，只是RL激发了base模型当中的思考能力；
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
代码改到rf++很简单；

评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值