科技一站

 找回密码
 立即注册
楼主: 水起风声

十分钟理解Transformer

[复制链接]

1

主题

3

帖子

5

积分

新手上路

Rank: 1

积分
5
发表于 2023-1-7 19:17:29 | 显示全部楼层
牛逼!!!!!!
回复

使用道具 举报

2

主题

4

帖子

8

积分

新手上路

Rank: 1

积分
8
发表于 2023-1-7 19:18:21 | 显示全部楼层
为啥叫transformer啊
回复

使用道具 举报

1

主题

8

帖子

15

积分

新手上路

Rank: 1

积分
15
发表于 2023-1-7 19:18:33 | 显示全部楼层
我想问一下在做个性化对话生成的时候,如果用seq2seq来做到位话,步骤是有两个编码器,一个编码对话上文,一个编码个性化信息,然后将两个隐状态链接,共同送入解码器解码,那如果用transformer的话,就是直接把个性话信息和对话上文直接送入解码器酒可以了么,求回复。
回复

使用道具 举报

0

主题

7

帖子

11

积分

新手上路

Rank: 1

积分
11
发表于 2023-1-7 19:19:21 | 显示全部楼层
你可以将两部分的向量做拼接然后共同编码,也可以单独编码文本信息,将个性化信息在解码部分引入。
回复

使用道具 举报

2

主题

10

帖子

20

积分

新手上路

Rank: 1

积分
20
发表于 2023-1-7 19:20:13 | 显示全部楼层
好的,非常感谢,我试试
回复

使用道具 举报

5

主题

14

帖子

30

积分

新手上路

Rank: 1

积分
30
发表于 2023-1-7 19:21:00 | 显示全部楼层
作者大大,英文原文的链接呢,突然找不到了
回复

使用道具 举报

4

主题

6

帖子

14

积分

新手上路

Rank: 1

积分
14
发表于 2023-1-7 19:21:47 | 显示全部楼层
解码部分应该输入的是文本把
回复

使用道具 举报

1

主题

7

帖子

6

积分

新手上路

Rank: 1

积分
6
发表于 2023-1-7 19:22:42 | 显示全部楼层
指的是哪个英文原文呢
回复

使用道具 举报

1

主题

7

帖子

3

积分

新手上路

Rank: 1

积分
3
发表于 2023-1-7 19:23:26 | 显示全部楼层
讲的真是太棒了 目前为止我看过最好的关于transformer的文章 感谢作者分享
回复

使用道具 举报

2

主题

9

帖子

19

积分

新手上路

Rank: 1

积分
19
发表于 2023-1-7 19:23:44 | 显示全部楼层
哈哈哈哈,一起加油
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|科技一站

GMT+8, 2025-8-21 18:19 , Processed in 0.172451 second(s), 21 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表