关键词：
【中文标题】lstm/gru 的输入数据准备【英文标题】：Input data preparation for lstm/gru 【发布时间】：2022-01-14 12:40:53 【问题描述】：我在理解如何转换我的数据以提供给网络时遇到问题（我认为 lstm 网络会有所帮助，因为我的数据主要是时间序列类型并且还有一些时间信息，所以......）。
这里是数据格式 前 6 列代表一秒钟的数据（larger_corr、shorter_corr、noiseratio、x、y、z） 然后是相应的输出特征，然后是下一秒数据。
但是为了准备训练数据，我怎样才能发送 6 列数据，然后是接下来的 6 列。所有列的长度都是 40。
我不确定我是否表达得足够清楚
如果您需要任何其他信息，请告诉我。
【问题讨论】：
【参考方案1】：您可以尝试按如下方式准备数据，但请注意，为了确保可读性，我只使用了 12 列：
import pandas as pd
import numpy as np
import tensorflow as tf
import tabulate
np.random.seed(0)
df = pd.DataFrame(
'larger_corr' : np.random.randn(25),
'shorter_corr' : np.random.randn(25),
'noiseratio' : np.random.randn(25),
'x' : np.random.randn(25),
'y' : np.random.randn(25),
'z' : np.random.randn(25),
'output' : np.random.randint(0,2,25),
'larger_corr.1' : np.random.randn(25),
'shorter_corr.1' : np.random.randn(25),
'noiseratio.1' : np.random.randn(25),
'x.1' : np.random.randn(25),
'y.1' : np.random.randn(25),
'z.1' : np.random.randn(25),
'output.1' : np.random.randint(0,2,25)
)
print(df.to_markdown())
y1, y2 = df.pop('output').to_numpy(), df.pop('output.1').to_numpy()
data = df.to_numpy()
x1, x2 = np.array_split(data, 2, axis=1)
x1 = np.expand_dims(x1, axis=1) # add timestep dimension
x2 = np.expand_dims(x2, axis=1) # add timestep dimension
X = np.concatenate([x1, x2])
Y = np.concatenate([y1, y1])
print('Shape of X -->', X.shape, 'Shape of labels -->', Y.shape)
| | larger_corr | shorter_corr | noiseratio | x | y | z | output | larger_corr.1 | shorter_corr.1 | noiseratio.1 | x.1 | y.1 | z.1 | output.1 |
|---:|--------------:|---------------:|-------------:|-----------:|----------:|-----------:|---------:|----------------:|-----------------:|---------------:|-----------:|-----------:|------------:|-----------:|
| 0 | 1.76405 | -1.45437 | -0.895467 | -0.68481 | 1.88315 | -0.149635 | 1 | 0.438871 | -0.244179 | -0.891895 | -0.617166 | 1.14367 | -0.936916 | 0 |
| 1 | 0.400157 | 0.0457585 | 0.386902 | -0.870797 | -1.34776 | -0.435154 | 1 | 0.63826 | 0.475261 | 0.570081 | -1.77556 | -0.188056 | -1.97935 | 0 |
| 2 | 0.978738 | -0.187184 | -0.510805 | -0.57885 | -1.27048 | 1.84926 | 0 | 2.01584 | -0.714216 | 2.66323 | -1.11821 | 1.24678 | 0.445384 | 0 |
| 3 | 2.24089 | 1.53278 | -1.18063 | -0.311553 | 0.969397 | 0.672295 | 0 | -0.243653 | -1.18694 | 0.410289 | -1.60639 | -0.253884 | -0.195333 | 1 |
| 4 | 1.86756 | 1.46936 | -0.0281822 | 0.0561653 | -1.17312 | 0.407462 | 1 | 1.53384 | 0.608891 | 0.485652 | -0.814676 | -0.870176 | -0.202716 | 1 |
| 5 | -0.977278 | 0.154947 | 0.428332 | -1.16515 | 1.94362 | -0.769916 | 1 | 0.76475 | 0.504223 | 1.31153 | 0.321281 | 0.0196537 | 0.219389 | 0 |
| 6 | 0.950088 | 0.378163 | 0.0665172 | 0.900826 | -0.413619 | 0.539249 | 0 | -2.45668 | -0.513996 | -0.235649 | -0.12393 | -1.11437 | -1.03016 | 0 |
| 7 | -0.151357 | -0.887786 | 0.302472 | 0.465662 | -0.747455 | -0.674333 | 1 | -1.70365 | 0.818475 | -1.48018 | 0.0221213 | 0.607842 | -0.929744 | 0 |
| 8 | -0.103219 | -1.9808 | -0.634322 | -1.53624 | 1.92294 | 0.0318306 | 1 | 0.420153 | 1.1566 | -0.0214848 | -0.321287 | 0.457237 | -2.55857 | 1 |
| 9 | 0.410599 | -0.347912 | -0.362741 | 1.48825 | 1.48051 | -0.635846 | 1 | -0.298149 | -0.803689 | 1.05279 | 0.692618 | 0.875539 | 1.6495 | 0 |
| 10 | 0.144044 | 0.156349 | -0.67246 | 1.89589 | 1.86756 | 0.676433 | 1 | 0.263602 | -0.551562 | -0.117402 | -0.353524 | 0.346481 | 0.611738 | 0 |
| 11 | 1.45427 | 1.23029 | -0.359553 | 1.17878 | 0.906045 | 0.576591 | 1 | 0.731266 | -0.332414 | 1.82851 | 0.81229 | -0.454874 | -1.05194 | 1 |
| 12 | 0.761038 | 1.20238 | -0.813146 | -0.179925 | -0.861226 | -0.208299 | 1 | 0.22807 | 1.84452 | -0.0166771 | -1.14179 | 0.198095 | -0.754946 | 0 |
| 13 | 0.121675 | -0.387327 | -1.72628 | -1.07075 | 1.91006 | 0.396007 | 0 | -2.02852 | -0.422776 | 1.87011 | -0.287549 | 0.391408 | 0.623188 | 1 |
| 14 | 0.443863 | -0.302303 | 0.177426 | 1.05445 | -0.268003 | -1.09306 | 0 | 0.96619 | 0.487659 | -0.380307 | 1.31554 | -3.17786 | 0.00470758 | 0 |
| 15 | 0.333674 | -1.04855 | -0.401781 | -0.403177 | 0.802456 | -1.49126 | 1 | -0.186922 | -0.375828 | 0.428698 | 0.685781 | -0.956575 | -0.899891 | 0 |
| 16 | 1.49408 | -1.42002 | -1.6302 | 1.22245 | 0.947252 | 0.439392 | 0 | -0.472325 | 0.227851 | 0.361896 | 0.524599 | -0.0312749 | 0.129242 | 1 |
| 17 | -0.205158 | -1.70627 | 0.462782 | 0.208275 | -0.15501 | 0.166673 | 1 | 1.93666 | 0.703789 | 0.467568 | -0.793387 | 1.03272 | 0.979693 | 1 |
| 18 | 0.313068 | 1.95078 | -0.907298 | 0.976639 | 0.614079 | 0.635031 | 0 | 1.47734 | -0.7978 | -1.51803 | -0.237881 | -1.21562 | 0.328375 | 0 |
| 19 | -0.854096 | -0.509652 | 0.0519454 | 0.356366 | 0.922207 | 2.38314 | 0 | -0.0848901 | -0.6759 | -1.89304 | 0.569498 | -0.318678 | 0.487074 | 0 |
| 20 | -2.55299 | -0.438074 | 0.729091 | 0.706573 | 0.376426 | 0.944479 | 1 | 0.427697 | -0.922546 | -0.785087 | -1.51061 | 1.49513 | 0.144842 | 1 |
| 21 | 0.653619 | -1.2528 | 0.128983 | 0.0105 | -1.0994 | -0.912822 | 1 | -0.30428 | -0.448586 | -1.60529 | -1.56505 | -0.130251 | -0.0856099 | 1 |
| 22 | 0.864436 | 0.77749 | 1.1394 | 1.78587 | 0.298238 | 1.11702 | 1 | 0.204625 | 0.181979 | 1.43184 | -3.05123 | -1.20289 | 0.71054 | 1 |
| 23 | -0.742165 | -1.6139 | -1.23483 | 0.126912 | 1.32639 | -1.31591 | 1 | -0.0833382 | -0.220084 | -1.94219 | 1.55966 | 0.199565 | 0.93096 | 0 |
| 24 | 2.26975 | -0.21274 | 0.402342 | 0.401989 | -0.694568 | -0.461585 | 1 | 1.82893 | 0.0249562 | 1.13995 | -2.63101 | 0.393166 | 0.875074 | 0 |
Shape of X --> (50, 1, 6) Shape of labels --> (50,)
预处理你的数据后，你可以像这样创建一个LSTM模型，其中维度timesteps代表1秒：
timesteps, features = X.shape[1], X.shape[2]
input = tf.keras.layers.Input(shape=(timesteps, features))
x = tf.keras.layers.LSTM(32, return_sequences=False)(input)
output = tf.keras.layers.Dense(1, activation='sigmoid')(x)
model = tf.keras.Model(input, output)
model.compile(optimizer='adam', loss=tf.keras.losses.BinaryCrossentropy())
print(model.summary())
model.fit(X, Y, batch_size=10, epochs=5)
Model: "model_1"
_________________________________________________________________
Layer (type) Output Shape Param #
=================================================================
input_16 (InputLayer) [(None, 1, 6)] 0
lstm_1 (LSTM) (None, 32) 4992
dense_21 (Dense) (None, 1) 33
=================================================================
Total params: 5,025
Trainable params: 5,025
Non-trainable params: 0
_________________________________________________________________
None
Epoch 1/5
5/5 [==============================] - 2s 4ms/step - loss: 0.6914
Epoch 2/5
5/5 [==============================] - 0s 3ms/step - loss: 0.6852
Epoch 3/5
5/5 [==============================] - 0s 3ms/step - loss: 0.6806
Epoch 4/5
5/5 [==============================] - 0s 4ms/step - loss: 0.6758
Epoch 5/5
5/5 [==============================] - 0s 4ms/step - loss: 0.6705
<keras.callbacks.History at 0x7f90ca6c6d90>
您还可以在使用 MinMaxScaler 或 StandardScaler 将数据输入模型之前对其进行缩放/规范化，但我将由您来决定。
【讨论】：
LSTM/GRU 自动编码器收敛
...9-07-2208:09:24【问题描述】：目标尝试在多变量时间序列的数据集上运行LSTM自动编码器：X_train(200,23,178)-X_val(100,23,178)-X_test(100,23,178)现状普通的自动编码器比LSTMAE的简单架构可以获得更好的结果。我对如何使用RepeatVector 查看详情
dl之lstm/gru/cnn：基于tensorflow框架分别利用lstm/grucnn算法对上海最高气温实现回归预测案例(代码片段)
...STM/GRU、CNN算法对上海最高气温实现回归预测案例#1、定义数据集#2、特征工程#2.1、挑选入模特征#2.2、对数据切分并统一进行归一化处理#3、模型训练与验证#3.1、切分数据集将训练集和测试集，并转换为LSTM模型所需的数据格... 查看详情
tf之lstm/gru：基于tensorflow框架对boston房价数据集分别利用lstmgru算法(batch_size调优对比)实现房价回归预测案例
...#3、模型训练与推理#3.1、切分数据集#3.2、数据再处理#将输入数据重塑为3D张量（样本数、时间步长、特征数）#3.3、模型建立和训练#3.4、模型训练#绘制训练集和测试集的loss曲线#3.5、模型评估#绘制预测结果相关文章TF之LS... 查看详情
tensorflow2实战（kears）-双层rnn/lstm/gru(代码片段)
...flow2实战（kears）-双层RNN/LSTM/GRU一、背景介绍1.1、数据集简介1.2、模型简介二、双层RNN/LSTM/GRU实战代码一、背景介绍1.1、数据集简介本次实战使用数据集为“IMDB”,数据集内容为“两极分化的评论”；该数据集共50000条... 查看详情
了解rnn模型的基础单元lstm、gru、rqnn与sru
...。LSTM单元与GRU单元是RNN模型中最常见的单元，其内容由输入门、忘记门、和输出门三种结构组合而成。LSTM单元与GRU单元的作用几乎相同，唯一不同的是：相比之下，使用GRU单元会更加简单。QRNN（Quasi-RecurrentNeuralNetworks）单元是... 查看详情
快速理解rnn（lstm，gru）结构原理
...，使得一个序列位置的输出在数学上和之前的所有序列的输入都是有关系的。当然原始的RNN由于梯度的乘性问题，前面的序列的影响近乎为0，这个后面又用LSTM来修正为加性问题。RNN的数学基础可以认为是马尔科夫链，认为后续... 查看详情
记忆网络rnnlstm与gru(代码片段)
...VariantsLSTM结构梯度消失及梯度爆炸GRU结构一般的神经网络输入和输出的维度大小都是固定的，针对序列类型（尤其是变长的序列）的输入或输出数据束手无策。RNN通过采用具有记忆的隐含层单元解决了序列数据的训练... 查看详情
几种常见的循环神经网络结构rnn、lstm、gru
...术A传统文本处理任务的方法中一般将TF-IDF向量作为特征输入。显而易见，这样的表示实际上丢失了输入的文本序列中每个单词的顺序。在神经网络的建模过程中，一般的前馈神经网络，如卷积神经网络，通常接受一个定长的向... 查看详情
如何在 Pytorch LSTM/GRU/RNN 中指定不同的层大小
】如何在PytorchLSTM/GRU/RNN中指定不同的层大小【英文标题】：HowtospecifydifferentlayersizesinPytorchLSTM/GRU/RNN【发布时间】：2021-01-0718:45:20【问题描述】：所以我知道如何在Pytorch上使用LSTM。但这让我很烦，你只能为LSTM中的所有层指定一... 查看详情
如何为 LSTM/GRU 模型提供多个独立的时间序列？
】如何为LSTM/GRU模型提供多个独立的时间序列？【英文标题】：HowtofeedanLSTM/GRUmodelmultipleindependentTimeSeries?【发布时间】：2021-10-0614:54:43【问题描述】：为了简单地解释一下：我有53口产油井测量，每口井每天都测量6年，我们记录... 查看详情
中文文本分类之textrnn(代码片段)
...，尤其是引入门控机制后，能够解决长期依赖问题，捕获输入样本之间的长距离联系。本文的模型是堆叠两层的LSTM和GRU模型，模型的结构为：LSTM（GRU）—dropout—LSTM（GRU）—dropout—全连接层—输出层，比较简单... 查看详情
pytorch：encoder-rnn|lstm|gru
-柚子皮-RNN参数Parametersinput_size–Thenumberofexpectedfeaturesintheinputxhidden_size–Thenumberoffeaturesinthehiddenstatehnum_layers–Numberofrecurrentlayers.E.g.,settingnum_layers=2wouldmeanstackingtwo 查看详情
rnn,lstm,gru,sru,multi-dimensionallstm,gridlstm,graphlstm系列解读(代码片段)
RNN/StackedRNNrnn一般根据输入和输出的数目分为5种一对一最简单的rnn一对多ImageCaptioning(image->sequenceofwords)多对一SentimentClassification(sequenceofwords->sentiment)多对多:时序不齐MachineTranslation(seqofwords->seqofwords)多对多:时序对齐Videoclass... 查看详情
深度学习rnnlstmgru网络使用教程(代码片段)
RNN、LSTM、GRU网络使用教程二前言1.数据处理2.定义网络结构3.定义损失函数4.定义优化器5.模型训练6.验证模型效果7.LSTM--->GRU前言在RNN实战-姓名分类中介绍了最基础RNN网络结构的搭建，个人感觉对RNN网络结构的理解与使用远... 查看详情
深度学习rnnlstmgru网络使用教程(代码片段)
RNN、LSTM、GRU网络使用教程二前言1.数据处理2.定义网络结构3.定义损失函数4.定义优化器5.模型训练6.验证模型效果7.LSTM--->GRU前言在RNN实战-姓名分类中介绍了最基础RNN网络结构的搭建，个人感觉对RNN网络结构的理解与使用远... 查看详情
rnn经典案例实战使用rnnlstmgru模型构建姓名分类器(代码片段)
...建人名分类器实现过程.关于人名分类问题:以一个人名为输入,使用模型帮助我们判断它最有可能是来自哪一个国家的人名,这在某些国际化公司的业务中具有重要意义,在 查看详情
rnn经典案例实战使用rnnlstmgru模型构建姓名分类器(代码片段)
...建人名分类器实现过程.关于人名分类问题:以一个人名为输入,使用模型帮助我们判断它最有可能是来自哪一个国家的人名,这在某些国际化公司的业务中具有重要意义,在 查看详情
python深度学习14——keras实现transformer中文文本十分类(代码片段)
...本次案例还是演示最经典的文本分类问题。比上次的外卖数据集高级一点，这次的数据集是一个主题分类，十个主题，而且数据量很大，有6w多条。Transformer在序列文本数据，尤其是超大量数据上的表现会很好... 查看详情