关键词：
【中文标题】使用 Huggingface 变形金刚的聊天机器人【英文标题】：Chatbot using Huggingface Transformers 【发布时间】：2021-12-31 11:23:54 【问题描述】：我想使用 Huggingface Transformers 来实现一个聊天机器人。目前，我有如下所示的代码。 Transformer 模型已经考虑了过去用户输入的历史记录。
在构建聊天机器人时我还需要考虑其他什么（附加代码）吗？
其次，如何修改我的代码以使用 TensorFlow 而不是 PyTorch 运行？
稍后，我还计划根据其他数据对模型进行微调。我还计划测试不同的模型，例如 BlenderBot 和 GPT2。我认为测试这些不同的模型应该像替换 AutoTokenizer.from_pretrained("microsoft/DialoGPT-small") 和 AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-small") 中的相应模型一样简单
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-small")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-small")
for step in range(5):
# encode the new user input, add the eos_token and return a tensor in Pytorch
new_user_input_ids = tokenizer.encode(input(">> User:") + tokenizer.eos_token, return_tensors='pt')
# append the new user input tokens to the chat history
bot_input_ids = torch.cat([chat_history_ids, new_user_input_ids], dim=-1) if step > 0 else new_user_input_ids
# generated a response while limiting the total chat history to 1000 tokens,
chat_history_ids = model.generate(bot_input_ids, max_length=1000, pad_token_id=tokenizer.eos_token_id)
# pretty print last ouput tokens from bot
print("DialoGPT: ".format(tokenizer.decode(chat_history_ids[:, bot_input_ids.shape[-1]:][0], skip_special_tokens=True)))
【问题讨论】：
【参考方案1】：这里是使用 DialoGPT 模型和 Tensorflow 的示例：
from transformers import TFAutoModelForCausalLM, AutoTokenizer, BlenderbotTokenizer, TFBlenderbotForConditionalGeneration
import tensorflow as tf
chat_bots =
'BlenderBot': [BlenderbotTokenizer.from_pretrained('facebook/blenderbot-400M-distill'), TFT5ForConditionalGeneration.from_pretrained('facebook/blenderbot-400M-distill')],
'DialoGPT': [AutoTokenizer.from_pretrained("microsoft/DialoGPT-small"), TFAutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-small")],
key = 'DialoGPT'
tokenizer, model = chat_bots[key]
for step in range(5):
new_user_input_ids = tokenizer.encode(input(">> User:") + tokenizer.eos_token, return_tensors='tf')
if step > 0:
bot_input_ids = tf.concat([chat_history_ids, new_user_input_ids], axis=-1)
else:
bot_input_ids = new_user_input_ids
chat_history_ids = model.generate(bot_input_ids, max_length=1000, pad_token_id=tokenizer.eos_token_id)
print(key + ": ".format(tokenizer.decode(chat_history_ids[:, bot_input_ids.shape[-1]:][0], skip_special_tokens=True)))
>> User:How are you?
DialoGPT: I'm here
>> User:Why are you here
DialoGPT: I'm here
>> User:But why
DialoGPT: I'm here
>> User:Where is here
DialoGPT: Where is where?
>> User:Here
DialoGPT: Where is here?
如果您想比较不同的聊天机器人，您可能需要调整它们的解码器参数，因为它们并不总是相同的。例如，使用 BlenderBot 和 50 的 max_length 您会在当前代码中得到这种响应：
>> User:How are you?
BlenderBot: ! I am am great! how how how are are are???
一般来说，您应该问自己哪些特殊字符对聊天机器人很重要（取决于您的域），哪些字符应该/可以省略？
您还应该尝试不同的解码方法，例如贪心搜索、束搜索、随机采样、top-k 采样和核采样，并找出最适合您的用例的方法。有关此主题的更多信息，请查看post
【讨论】：
非常感谢。与您发布的聊天机器人的对话没有多大意义。 ;) 在 Huggingface 上是否没有针对 GPT2 和 BlenderBot 的预训练模型，可以开箱即用？ 有......正如我的回答中所发布的，但正如我所说，它们可能需要不同的参数，这就是为什么你必须稍微调整你的代码。huggingnews#0428:huggingchat来啦
每一周，我们的同事都会向社区的成员们发布一些关于HuggingFace相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「HuggingNews」，本期HuggingNews有哪些有趣的消息，... 查看详情
在训练 Bert 二进制分类模型时，Huggingface 变形金刚返回“ValueError：要解包的值太多（预期为 2）”
】在训练Bert二进制分类模型时，Huggingface变形金刚返回“ValueError：要解包的值太多（预期为2）”【英文标题】：HuggingfaceTransformersreturning\'ValueError:toomanyvaluestounpack(expected2)\',upontrainingaBertbinaryclassificationmodel【发布时间】：2021-07-... 查看详情
了解拥抱脸变形金刚
】了解拥抱脸变形金刚【英文标题】：UnderstandingtheHuggingfacetransformers【发布时间】：2020-08-2915:56:06【问题描述】：我是Transformers概念的新手，我正在阅读一些教程并编写自己的代码来理解使用Transformer模型的Squad2.0数据集问答。... 查看详情
如何将 HuggingFace 的 Seq2seq 模型转换为 onnx 格式
...：2021-05-1211:58:56【问题描述】：我正在尝试将HuggingFace的变形金刚模型中的Pegasus新闻编辑室转换为ONNX格式。我遵循了Huggingface发布的this指南。安装prereqs后，我运行了以下代码：!rm 查看详情
免费chatgpt接入-国内怎么玩chatgpt
...文版模型和API。下面是一些常见的免费中文版ChatGPT：HuggingFace：HuggingFace是一个开源社区，提供了多种GPT模型和API的中文版，包括GPT-2和GPT-3等。您可以在HuggingFace的官方网站上免费使用这些模型，并在自己的代... 查看详情
transformers学习笔记1.一些基本概念和编码器字典(代码片段)
...rs学习笔记1.一些基本概念和编码器、字典一、基本概念1.HuggingFace简介2.Transformers（1）简介（1）预定义模型（2）使用方法3.Datasets查看有哪些公开数据集方法1：使用datasets包的list_datasets方法方法2：... 查看详情
transformers学习笔记1.一些基本概念和编码器字典(代码片段)
...rs学习笔记1.一些基本概念和编码器、字典一、基本概念1.HuggingFace简介2.Transformers（1）简介（1）预定义模型（2）使用方法3.Datasets查看有哪些公开数据集方法1：使用datasets包的list_datasets方法方法2：... 查看详情
这个对机器人迷之自信的民族，他们真的做出了变形金刚
...男孩儿少年时候不可或缺的梦。他们抱着电视看荧幕里的变形金刚在钢铁战士和超跑重卡之间来回切换，流着口水，眼睛一眨不眨。转瞬之间，当年看《变形金刚》的男孩们都长大了。对他们中的大部分来说，变形金刚只是个幼... 查看详情
如何使用 Python 中的 API 使用 Discord 聊天机器人发送新闻？
】如何使用Python中的API使用Discord聊天机器人发送新闻？【英文标题】：HowtosendnewsusingDiscordchatbotusingAPIinPython?【发布时间】：2021-10-0113:18:45【问题描述】：我正在使用python制作一个不和谐的聊天机器人，我的机器人使用API发送新... 查看详情
使用chatterbot库制作一个聊天机器人
...杂烩我们学习一些如何使用ChatterBot库在Python中创建聊天机器人，该库实现了各种机器学习算法来生成响应对话，还是挺不错的1什么是聊天机器人聊天机器人也称为聊天机器人、机器人、人工代理等，基本上是由人工... 查看详情
强制使用 JAXL/XMPPHP 制作的聊天机器人在断开连接时重新连接
】强制使用JAXL/XMPPHP制作的聊天机器人在断开连接时重新连接【英文标题】：ForcingchatbotmadewithJAXL/XMPPHPtoreconnectupondisconnection【发布时间】：2012-01-2800:24:52【问题描述】：我正在使用JAXL库来实现一个用php编写的jabber聊天机器人，... 查看详情
如何使用信使聊天机器人访问某人的姓名？ （Facebook 信使 SDK）
】如何使用信使聊天机器人访问某人的姓名？（Facebook信使SDK）【英文标题】：Howtoaccessthenameofsomeonewithmessengerchatbot?(FacebookMessengerSDK)【发布时间】：2016-09-2720:19:14【问题描述】：您好，我是PHP和MessengerBots编码的新手。我想知道... 查看详情
如何使用chatgptapi训练具有自定义知识库的ai聊天机器人(代码片段)
...们之前的文章中，我们演示了如何使用ChatGPTAPI构建AI聊天机器人，并分配一个角色来对其进行个性化设置。但是，如果您想根据自己的数据训练AI，该怎么办？例如，您可能有一本书、财务数据或大量数据库，并且您希望轻松搜... 查看详情
chatgpt来了，让我们快速做个ai应用(代码片段)
...机器人来给你用。在这个过程里，你也会第一次使用HuggingFace这个平台。HuggingFace是现在最流行的深度模型的社区，你可以在里面下载到最新开源的模型，以及看到别人提供的示例代码。ChatGPT来了，更快的速度更... 查看详情
huggingface：成为机器学习界的“github”
来源｜TheRobotBrainsPodcast翻译｜程浩源、胡燕君、许涵如、董文文五年前，AI领域的知名研究者AndrejKarpathy发文称，传统人工编程属于“软件1.0”，“软件2.0”时代将以神经网络来编程，在这个过渡过程中ÿ... 查看详情
在使用对话流的聊天机器人对话中，有没有办法让机器人先说话？
】在使用对话流的聊天机器人对话中，有没有办法让机器人先说话？【英文标题】：Inachatbotconversationusingdialogflow,Isthereawaytomakethebotspeakfirst?【发布时间】：2018-12-1312:18:11【问题描述】：是否可以格式化对话，以便机器人在Web演示... 查看详情
huggingface：成为机器学习界的“github”
...像GitHub这样的重量级平台。AI届网红公司“抱抱脸（HuggingFace）”有志于成为“软件2.0”时代的GitHub。在HuggingFace上，用户可以托管机器学习模型和数据集等，对它们进行共享、协作和评价，最后将它们投入生... 查看详情
关闭了5g消息，还能使用聊天机器人(chatbot)吗？给聊天机器人(chatbot)发短信是不是会
用户关闭5G消息后，不能使用聊天机器人(Chatbot)。如果前期已经用过的聊天机器人(Chatbot)，会在短信列表内，但是即使给聊天机器人(Chatbot)发送消息成功，也无法收到聊天机器人(Chatbot)回复。即可以查看历史消息，不可以进行新... 查看详情