CNN文本分类实现文本分类案例解析（附实例源码）

来源：电视剧杂谈 发布时间：2023-05-18 18:14

CNN（卷积神经网络）在文本分类任务中具有良好的特征提取能力、位置不变性、参数共享和处理大规模数据的上风，能够有效地学习文本的局部和全局特征，进步模型机能和泛化能力，所以本文将以CNN实现文本分类。

CNN对文本分类的支持：

特征提取：CNN能够有效地提取文本中的局部特征。卷积层通过应用多个卷积核来捕捉不同大小的n-gram特征，从而能够识别关键词、短语和句子结构等重要信息。

位置不变性：对于文本分类任务，特征的位置通常是不重要的。CNN中的池化层（如全局最大池化）能够保存特征的最明显信息，同时忽略其具体位置，这对于处理可变长度的文本输入非常有匡助。

参数共享：CNN中的卷积核在整个输入上共享参数，这意味着相同的特征可以在不同位置进行识别。这种参数共享能够极大地减少模型的参数目，降低过拟合的风险，并加快模型的练习速度。

处理大规模数据：CNN可以高效地处理大规模的文本数据。因为卷积和池化操纵的局部性质，CNN在处理文本序列时具有较小的计算复杂度和内存消耗，使得它能够适应大规模的文本分类任务。

上下文建模：通过使用多个卷积核和不同的大小，CNN可以捕获不同标准的上下文信息。这有助于进步模型对文本的理解能力，并能够捕获更长范围的依靠关系。

实现步骤

1.导入所需的库和模块：

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

这些库包括NumPy用于数据处理，TensorFlow用于构建和练习模型，以及Keras中的各种层和模型类。

2.设置随机种子：

np.random.seed(42)

设置随机种子，可以确保每次运行代码时天生的随机数是相同的，以便结果可重现。

3.定义模型超参数：

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

这些超参数将影响模型的结构和练习过程。可自行调整。

4.加载数据集：

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

示例中，使用的IMDB片子评论数据集，其中包含以数字表示的评论文本和相应的情感标签（正面或负面）。使用tf.keras.datasets.imdb.load_data函数可以利便地加载数据集，并指定num_words参数来限制词汇表的大小。

5.对文本进行填充和截断：

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

因为每条评论的长度可能不同，需要将它们同一到相同的长度。sequence.pad_sequences函数用于在文本序列前后进行填充或截断，使它们具有相同的长度。

6.构建模型：

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

这个模型使用Sequential模型类构建，依次添加了嵌入层（Embedding）、卷积层（Conv1D）、全局最大池化层（GlobalMaxPooling1D）和两个全连接层（Dense）。嵌入层将输入的整数序列转换为固定维度的词嵌入表示，卷积层通过应用多个卷积核来提取特征，全局最大池化层获取每个特征通道的最大值，而两个全连接层用于分类任务。

7.编译模型：

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

在编译模型之前，需要指定损失函数、优化器和评估指标。使用二元交叉熵作为损失函数，Adam优化器进行参数优化，并使用准确率作为评估指标。

8.练习模型：

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

使用fit函数对模型进行练习。需要传入练习数据、标签，批处理大小、练习迭代次数，并可以指定验证集进行模型机能评估。

9.评估模型：

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

使用evaluate函数评估模型在测试集上的机能，计算并打印出测试准确率。

完整代码

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

# 设置随机种子

np.random.seed(42)

# 定义模型超参数

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

# 加载数据集

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

# 对文本进行填充和截断，使其具有相同的长度

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

# 构建模型

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

# 编译模型

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

# 练习模型

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

# 评估模型

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

CNN（卷积神经网络）在文本分类任务中具有良好的特征提取能力、位置不变性、参数共享和处理大规模数据的上风，能够有效地学习文本的局部和全局特征，进步模型机能和泛化能力，所以本文将以CNN实现文本分类。

CNN对文本分类的支持：

特征提取：CNN能够有效地提取文本中的局部特征。卷积层通过应用多个卷积核来捕捉不同大小的n-gram特征，从而能够识别关键词、短语和句子结构等重要信息。

位置不变性：对于文本分类任务，特征的位置通常是不重要的。CNN中的池化层（如全局最大池化）能够保存特征的最明显信息，同时忽略其具体位置，这对于处理可变长度的文本输入非常有匡助。

参数共享：CNN中的卷积核在整个输入上共享参数，这意味着相同的特征可以在不同位置进行识别。这种参数共享能够极大地减少模型的参数目，降低过拟合的风险，并加快模型的练习速度。

处理大规模数据：CNN可以高效地处理大规模的文本数据。因为卷积和池化操纵的局部性质，CNN在处理文本序列时具有较小的计算复杂度和内存消耗，使得它能够适应大规模的文本分类任务。

上下文建模：通过使用多个卷积核和不同的大小，CNN可以捕获不同标准的上下文信息。这有助于进步模型对文本的理解能力，并能够捕获更长范围的依靠关系。

实现步骤

1.导入所需的库和模块：

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

这些库包括NumPy用于数据处理，TensorFlow用于构建和练习模型，以及Keras中的各种层和模型类。

2.设置随机种子：

np.random.seed(42)

设置随机种子，可以确保每次运行代码时天生的随机数是相同的，以便结果可重现。

3.定义模型超参数：

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

这些超参数将影响模型的结构和练习过程。可自行调整。

4.加载数据集：

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

示例中，使用的IMDB片子评论数据集，其中包含以数字表示的评论文本和相应的情感标签（正面或负面）。使用tf.keras.datasets.imdb.load_data函数可以利便地加载数据集，并指定num_words参数来限制词汇表的大小。

5.对文本进行填充和截断：

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

因为每条评论的长度可能不同，需要将它们同一到相同的长度。sequence.pad_sequences函数用于在文本序列前后进行填充或截断，使它们具有相同的长度。

6.构建模型：

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

这个模型使用Sequential模型类构建，依次添加了嵌入层（Embedding）、卷积层（Conv1D）、全局最大池化层（GlobalMaxPooling1D）和两个全连接层（Dense）。嵌入层将输入的整数序列转换为固定维度的词嵌入表示，卷积层通过应用多个卷积核来提取特征，全局最大池化层获取每个特征通道的最大值，而两个全连接层用于分类任务。

7.编译模型：

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

在编译模型之前，需要指定损失函数、优化器和评估指标。使用二元交叉熵作为损失函数，Adam优化器进行参数优化，并使用准确率作为评估指标。

8.练习模型：

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

使用fit函数对模型进行练习。需要传入练习数据、标签，批处理大小、练习迭代次数，并可以指定验证集进行模型机能评估。

9.评估模型：

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

使用evaluate函数评估模型在测试集上的机能，计算并打印出测试准确率。

完整代码

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

# 设置随机种子

np.random.seed(42)

# 定义模型超参数

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

# 加载数据集

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

# 对文本进行填充和截断，使其具有相同的长度

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

# 构建模型

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

# 编译模型

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

# 练习模型

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

# 评估模型

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

CNN（卷积神经网络）在文本分类任务中具有良好的特征提取能力、位置不变性、参数共享和处理大规模数据的上风，能够有效地学习文本的局部和全局特征，进步模型机能和泛化能力，所以本文将以CNN实现文本分类。

CNN对文本分类的支持：

特征提取：CNN能够有效地提取文本中的局部特征。卷积层通过应用多个卷积核来捕捉不同大小的n-gram特征，从而能够识别关键词、短语和句子结构等重要信息。

位置不变性：对于文本分类任务，特征的位置通常是不重要的。CNN中的池化层（如全局最大池化）能够保存特征的最明显信息，同时忽略其具体位置，这对于处理可变长度的文本输入非常有匡助。

参数共享：CNN中的卷积核在整个输入上共享参数，这意味着相同的特征可以在不同位置进行识别。这种参数共享能够极大地减少模型的参数目，降低过拟合的风险，并加快模型的练习速度。

处理大规模数据：CNN可以高效地处理大规模的文本数据。因为卷积和池化操纵的局部性质，CNN在处理文本序列时具有较小的计算复杂度和内存消耗，使得它能够适应大规模的文本分类任务。

上下文建模：通过使用多个卷积核和不同的大小，CNN可以捕获不同标准的上下文信息。这有助于进步模型对文本的理解能力，并能够捕获更长范围的依靠关系。

实现步骤

1.导入所需的库和模块：

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

这些库包括NumPy用于数据处理，TensorFlow用于构建和练习模型，以及Keras中的各种层和模型类。

2.设置随机种子：

np.random.seed(42)

设置随机种子，可以确保每次运行代码时天生的随机数是相同的，以便结果可重现。

3.定义模型超参数：

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

这些超参数将影响模型的结构和练习过程。可自行调整。

4.加载数据集：

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

示例中，使用的IMDB片子评论数据集，其中包含以数字表示的评论文本和相应的情感标签（正面或负面）。使用tf.keras.datasets.imdb.load_data函数可以利便地加载数据集，并指定num_words参数来限制词汇表的大小。

5.对文本进行填充和截断：

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

因为每条评论的长度可能不同，需要将它们同一到相同的长度。sequence.pad_sequences函数用于在文本序列前后进行填充或截断，使它们具有相同的长度。

6.构建模型：

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

这个模型使用Sequential模型类构建，依次添加了嵌入层（Embedding）、卷积层（Conv1D）、全局最大池化层（GlobalMaxPooling1D）和两个全连接层（Dense）。嵌入层将输入的整数序列转换为固定维度的词嵌入表示，卷积层通过应用多个卷积核来提取特征，全局最大池化层获取每个特征通道的最大值，而两个全连接层用于分类任务。

7.编译模型：

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

在编译模型之前，需要指定损失函数、优化器和评估指标。使用二元交叉熵作为损失函数，Adam优化器进行参数优化，并使用准确率作为评估指标。

8.练习模型：

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

使用fit函数对模型进行练习。需要传入练习数据、标签，批处理大小、练习迭代次数，并可以指定验证集进行模型机能评估。

9.评估模型：

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

使用evaluate函数评估模型在测试集上的机能，计算并打印出测试准确率。

完整代码

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

# 设置随机种子

np.random.seed(42)

# 定义模型超参数

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

# 加载数据集

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

# 对文本进行填充和截断，使其具有相同的长度

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

# 构建模型

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

# 编译模型

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

# 练习模型

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

# 评估模型

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

CNN（卷积神经网络）在文本分类任务中具有良好的特征提取能力、位置不变性、参数共享和处理大规模数据的上风，能够有效地学习文本的局部和全局特征，进步模型机能和泛化能力，所以本文将以CNN实现文本分类。

CNN对文本分类的支持：

特征提取：CNN能够有效地提取文本中的局部特征。卷积层通过应用多个卷积核来捕捉不同大小的n-gram特征，从而能够识别关键词、短语和句子结构等重要信息。

位置不变性：对于文本分类任务，特征的位置通常是不重要的。CNN中的池化层（如全局最大池化）能够保存特征的最明显信息，同时忽略其具体位置，这对于处理可变长度的文本输入非常有匡助。

参数共享：CNN中的卷积核在整个输入上共享参数，这意味着相同的特征可以在不同位置进行识别。这种参数共享能够极大地减少模型的参数目，降低过拟合的风险，并加快模型的练习速度。

处理大规模数据：CNN可以高效地处理大规模的文本数据。因为卷积和池化操纵的局部性质，CNN在处理文本序列时具有较小的计算复杂度和内存消耗，使得它能够适应大规模的文本分类任务。

上下文建模：通过使用多个卷积核和不同的大小，CNN可以捕获不同标准的上下文信息。这有助于进步模型对文本的理解能力，并能够捕获更长范围的依靠关系。

实现步骤

1.导入所需的库和模块：

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

这些库包括NumPy用于数据处理，TensorFlow用于构建和练习模型，以及Keras中的各种层和模型类。

2.设置随机种子：

np.random.seed(42)

设置随机种子，可以确保每次运行代码时天生的随机数是相同的，以便结果可重现。

3.定义模型超参数：

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

这些超参数将影响模型的结构和练习过程。可自行调整。

4.加载数据集：

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

示例中，使用的IMDB片子评论数据集，其中包含以数字表示的评论文本和相应的情感标签（正面或负面）。使用tf.keras.datasets.imdb.load_data函数可以利便地加载数据集，并指定num_words参数来限制词汇表的大小。

5.对文本进行填充和截断：

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

因为每条评论的长度可能不同，需要将它们同一到相同的长度。sequence.pad_sequences函数用于在文本序列前后进行填充或截断，使它们具有相同的长度。

6.构建模型：

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

这个模型使用Sequential模型类构建，依次添加了嵌入层（Embedding）、卷积层（Conv1D）、全局最大池化层（GlobalMaxPooling1D）和两个全连接层（Dense）。嵌入层将输入的整数序列转换为固定维度的词嵌入表示，卷积层通过应用多个卷积核来提取特征，全局最大池化层获取每个特征通道的最大值，而两个全连接层用于分类任务。

7.编译模型：

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

在编译模型之前，需要指定损失函数、优化器和评估指标。使用二元交叉熵作为损失函数，Adam优化器进行参数优化，并使用准确率作为评估指标。

8.练习模型：

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

使用fit函数对模型进行练习。需要传入练习数据、标签，批处理大小、练习迭代次数，并可以指定验证集进行模型机能评估。

9.评估模型：

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

使用evaluate函数评估模型在测试集上的机能，计算并打印出测试准确率。

完整代码

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

# 设置随机种子

np.random.seed(42)

# 定义模型超参数

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

# 加载数据集

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

# 对文本进行填充和截断，使其具有相同的长度

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

# 构建模型

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

# 编译模型

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

# 练习模型

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

# 评估模型

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

CNN（卷积神经网络）在文本分类任务中具有良好的特征提取能力、位置不变性、参数共享和处理大规模数据的上风，能够有效地学习文本的局部和全局特征，进步模型机能和泛化能力，所以本文将以CNN实现文本分类。

CNN对文本分类的支持：

特征提取：CNN能够有效地提取文本中的局部特征。卷积层通过应用多个卷积核来捕捉不同大小的n-gram特征，从而能够识别关键词、短语和句子结构等重要信息。

位置不变性：对于文本分类任务，特征的位置通常是不重要的。CNN中的池化层（如全局最大池化）能够保存特征的最明显信息，同时忽略其具体位置，这对于处理可变长度的文本输入非常有匡助。

参数共享：CNN中的卷积核在整个输入上共享参数，这意味着相同的特征可以在不同位置进行识别。这种参数共享能够极大地减少模型的参数目，降低过拟合的风险，并加快模型的练习速度。

处理大规模数据：CNN可以高效地处理大规模的文本数据。因为卷积和池化操纵的局部性质，CNN在处理文本序列时具有较小的计算复杂度和内存消耗，使得它能够适应大规模的文本分类任务。

上下文建模：通过使用多个卷积核和不同的大小，CNN可以捕获不同标准的上下文信息。这有助于进步模型对文本的理解能力，并能够捕获更长范围的依靠关系。

实现步骤

1.导入所需的库和模块：

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

这些库包括NumPy用于数据处理，TensorFlow用于构建和练习模型，以及Keras中的各种层和模型类。

2.设置随机种子：

np.random.seed(42)

设置随机种子，可以确保每次运行代码时天生的随机数是相同的，以便结果可重现。

3.定义模型超参数：

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

这些超参数将影响模型的结构和练习过程。可自行调整。

4.加载数据集：

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

示例中，使用的IMDB片子评论数据集，其中包含以数字表示的评论文本和相应的情感标签（正面或负面）。使用tf.keras.datasets.imdb.load_data函数可以利便地加载数据集，并指定num_words参数来限制词汇表的大小。

5.对文本进行填充和截断：

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

因为每条评论的长度可能不同，需要将它们同一到相同的长度。sequence.pad_sequences函数用于在文本序列前后进行填充或截断，使它们具有相同的长度。

6.构建模型：

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

这个模型使用Sequential模型类构建，依次添加了嵌入层（Embedding）、卷积层（Conv1D）、全局最大池化层（GlobalMaxPooling1D）和两个全连接层（Dense）。嵌入层将输入的整数序列转换为固定维度的词嵌入表示，卷积层通过应用多个卷积核来提取特征，全局最大池化层获取每个特征通道的最大值，而两个全连接层用于分类任务。

7.编译模型：

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

在编译模型之前，需要指定损失函数、优化器和评估指标。使用二元交叉熵作为损失函数，Adam优化器进行参数优化，并使用准确率作为评估指标。

8.练习模型：

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

使用fit函数对模型进行练习。需要传入练习数据、标签，批处理大小、练习迭代次数，并可以指定验证集进行模型机能评估。

9.评估模型：

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])

使用evaluate函数评估模型在测试集上的机能，计算并打印出测试准确率。

完整代码

import numpy as np

import tensorflow as tf

from tensorflow.keras.preprocessing import sequence

from tensorflow.keras.models import Sequential

from tensorflow.keras.layers import Dense, Dropout, Embedding, Conv1D, GlobalMaxPooling1D

# 设置随机种子

np.random.seed(42)

# 定义模型超参数

max_features = 5000 # 词汇表大小

max_length = 100 # 文本最大长度

embedding_dims = 50 # 词嵌入维度

filters = 250 # 卷积核数目

kernel_size = 3 # 卷积核大小

hidden_dims = 250 # 全连接层神经元数目

batch_size = 32 # 批处理大小

epochs = 5 # 练习迭代次数

# 加载数据集

(x_train, y_train), (x_test, y_test) = tf.keras.datasets.imdb.load_data(num_words=max_features)

# 对文本进行填充和截断，使其具有相同的长度

x_train = sequence.pad_sequences(x_train, maxlen=max_length)

x_test = sequence.pad_sequences(x_test, maxlen=max_length)

# 构建模型

model = Sequential()

model.add(Embedding(max_features, embedding_dims, input_length=max_length))

model.add(Dropout(0.2))

model.add(Conv1D(filters, kernel_size, padding="valid", activation="relu", strides=1))

model.add(GlobalMaxPooling1D())

model.add(Dense(hidden_dims, activation="relu"))

model.add(Dropout(0.2))

model.add(Dense(1, activation="sigmoid"))

# 编译模型

model.compile(loss="binary_crossentropy", optimizer="adam", metrics=["accuracy"])

# 练习模型

model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test))

# 评估模型

scores = model.evaluate(x_test, y_test, verbose=0)

print("Test accuracy:", scores[1])