基于知识图谱的电影知识问答系统 基于知识图谱的搜索引擎
bigegpt 2024-10-07 06:27 4 浏览
基于知识图谱的电影知识问答系统:训练TF-IDF 向量算法和朴素贝叶斯分类器、在 Neo4j 中查询
1.项目介绍
- 训练 TF-IDF 向量算法和朴素贝叶斯分类器,预测用户文本所属的问题类别
- 使用分词库解析用户文本词性,提取关键词
- 结合关键词与问题类别,在 Neo4j 中查询问题的答案
- 通过 Flask 对外提供 RESTful API
- 前端交互与答案展示
2.项目实操教学
2.1 数据集简介
{
"introduction_by_movie": [
"nm简介",
"nm剧情简介",
"nm的内容是什么",
"nm讲了什么",
"nm讲了什么故事",
"nm演了什么",
"nm的故事梗概是什么",
"nm的剧情简介是什么",
"nm的内容简介是什么",
"nm的剧情介绍是什么",
"nm的情节是什么",
"nm的主要情节是什么"
],
"rating_by_movie": [
"nm的评分是多少",
"nm得了多少分",
"nm的评分有多少",
"nm的评分",
"nm得分是多少",
"nm的分数是",
"nm电影分数是多少",
"nm电影评分",
"nm评分",
"nm的分数是多少",
"nm这部电影的评分是多少"
],
"release_date_by_movie": [
"nm上映时间",
"nm定档时间",
"nm的上映时间是什么时候",
"nm的首映时间是什么时候",
"nm什么时候上映",
"nm什么时候首映",
"最早什么时候能看到nm",
"nm什么时候在影院上线",
"什么时候可以在影院看到nm",
"nm什么时候在影院放映",
"nm什么时候首播"
],
2.2 用户词典
Forrest Gump nm
2.3 环境依赖
jieba
neo4j
python-dotenv
scikit-learn
flask
flask-cors
gunicorn
2.4 部分代码展示
import os
from neo4j import GraphDatabase
class Database:
"""
Neo4j 数据库访问层。
管理数据库连接的生命周期,并提供查询接口。
"""
def __init__(self):
uri = os.environ["DATABASE_URI"]
user = os.environ["DATABASE_USER"]
password = os.environ["DATABASE_PASSWORD"]
try:
self._driver = GraphDatabase.driver(uri, auth=(user, password))
self._session = self._driver.session()
except Exception as e:
raise Exception("数据库连接失败") from e
def close(self):
try:
self._session.close()
self._driver.close()
except Exception as e:
raise Exception("数据库断开失败") from e
def find_one(self, query: str, **parameters):
result = self._session.run(query, parameters).single()
return result.value() if result else None
def find_many(self, query: str, **parameters):
return self._session.run(query, parameters).value()
if __name__ == "__main__":
import dotenv
dotenv.load_dotenv()
database = Database()
genres = database.find_many(
"""
MATCH (m:Movie)-[BELONGS_TO]->(g:Genre)
WHERE m.name = $movie_name
RETURN g.name
""",
movie_name="卧虎藏龙",
)
database.close()
print(genres)
import json
import os
import jieba
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.naive_bayes import MultinomialNB
TRAIN_DATASET_PATH = os.path.join("data", "train.json")
jieba.setLogLevel("ERROR")
def normalize(sentence: str):
return " ".join(jieba.cut(sentence))
class BaseClassifier:
"""
底层分类器。
使用 TF-IDF 向量化文本,然后使用朴素贝叶斯预测标签。
"""
def __init__(self):
self._vectorizer = TfidfVectorizer()
self._classifier = MultinomialNB(alpha=0.01)
def _train(self, x: list, y: list):
X = self._vectorizer.fit_transform(x).toarray()
self._classifier.fit(X, y)
def _predict(self, x: list):
X = self._vectorizer.transform(x).toarray()
return self._classifier.predict(X)
class Classifier(BaseClassifier):
"""
问题分类器。
根据问题中出现的关键词,将问题归于某一已知类别下。
"""
def __init__(self):
BaseClassifier.__init__(self)
questions, labels = Classifier._read_train_dataset()
self._train(questions, labels)
def classify(self, sentence: str):
question = normalize(sentence)
return self._predict([question])[0]
@staticmethod
def _read_train_dataset():
with open(TRAIN_DATASET_PATH, "r", encoding="utf-8") as fr:
train_dataset: dict[str, list[str]] = json.load(fr)
questions = []
labels = []
for label, sentences in train_dataset.items():
questions.extend([normalize(sentence) for sentence in sentences])
labels.extend([label for _ in sentences])
return questions, labels
if __name__ == "__main__":
classifier = Classifier()
while True:
sentence = input("请输入问题:").strip()
label = classifier.classify(sentence)
print(f"问题分类:{label}")
2.5 运行项目
在 backend 目录下添加环境变量文件 .env。
# Neo4j 数据库地址
DATABASE_URI=
# Neo4j 用户名
DATABASE_USER=
# Neo4j 密码
DATABASE_PASSWORD=
启动后端服务。
cd backend
gunicorn app:app
在 frontend 目录下添加环境变量文件 .env。
# 后端服务地址
VITE_API_BASE_URL=
启动前端服务。
cd frontend
npm build
npm preview
3.技术栈
3.1数据库
Neo4j
3.2核心 QA 模块
Python
Scikit-learn
Jieba
3.3后端
Python
Flask
Render
3.4前端
TypeScript
Preact
Tailwind CSS
pnpm
Vite
ESLint
Prettier
码源链接跳转见文末
[码源链接跳转]:https://blog.csdn.net/sinat_39620217/article/details/131697229
更多优质内容请关注公号&知乎:汀丶人工智能;会提供一些相关的资源和优质文章,免费获取阅读。
相关推荐
- Dify「模板转换」节点终极指南:动态文本生成进阶技巧(附代码)Jinja2引擎解析
-
这篇文章是关于Dify「模板转换」节点的终极指南,解析了基于Jinja2模板引擎的动态文本生成技巧,涵盖多源文本整合、知识检索结构化、动态API构建及个性化内容生成等六大应用场景,助力开发者高效利用模...
- 我用C#造了个AI程序员:自动调试+重构代码实战
-
在软件开发的世界里,调试和重构代码往往占据了程序员大量的时间。我一直梦想着能有一个智能助手,帮我处理这些繁琐的工作。于是,我决定用C#打造一个AI程序员,让它具备自动调试和重构代码的能力。系统架构设计...
- 公文自动排版vba代码(公文自动排版vba代码)
-
Sub公文自动排版()'设置页面参数(单位:厘米)WithActiveDocument.PageSetup.TopMargin=CentimetersToPoints(3.7)...
- Anthropic最强代码神器:Claude Code系统提示词
-
最近,在融合Opus-4之后,ClaudeCode的整体能力直线飙升.甚至一度把曾经的最强开发工具——Cursor打的抬不起头来。无论是代码生成的准确度,还是智能补全的丝滑体验,都让人印象深...
- 使用 Ruff 进行 Python 代码格式化与静态检查
-
随着Python项目的规模增大,保持一致的代码风格和高质量的代码变得尤为重要。Ruff是一个现代、高性能、支持lint和格式化的Python工具,能帮助你快速发现并修复常见代码问题。本文...
- 基础语法篇:格式化输出 含完整示例代码
-
所谓格式化输出就是按照一定格式来输出对应的内容,在Python的语法中格式化输出包含两种:格式化符号、格式化字符串一、格式化符号常用的格式化符号包括%s(将内容转换为字符串,放入占位位置)、%d(将内...
- 代码整洁如诗!Keil 插件上线,一键格式化代码,告别风格混乱!
-
引言:代码格式不统一?你的团队还在为“括号位置”吵架吗?嵌入式开发者们,你是否经历过这些抓狂瞬间?代码风格“百花齐放”:同事的代码缩进用空格,你的用Tab,合并时冲突频发!手动调整耗时费力:为了通过C...
- [信捷PLC] 信捷PLC之C函数编程(一)
-
前言写PLC程序,越来越觉得结构化文本编程语言(ST)给PC编程带来的便利,在处理一些数据上,可以写的更加灵活。所以,在项目PLC选型上,我都会优先选择支持结构化文本的PLC。国内有些厂商推出了一些较...
- C语言-HelloWorld解析(c语言的helloworld怎么写)
-
使用VisualStudio2017开发工具新创建一个项目,编写第一个C语言程序。#include<stdio.h>voidmain(){printf("HelloW...
- VSCode 配置 C++ 开发环境!教程详解
-
第一步、安装VSCode应用程序打开VSCode官网,下载对应安装包并默认安装(这里指明:安装路径可以修改)第二步、安装相关插件此时的VSCode仅仅是一个英文文本编辑器,还称不上开发工具,所以需要...
- C语言进阶教程:C语言与汇编语言交互
-
C语言和汇编语言的交互是底层编程和性能优化中的一个重要方面。理解它们如何协同工作,可以帮助开发者更好地控制硬件、优化关键代码段以及理解编译器的行为。为什么需要在C语言中嵌入汇编?尽管C语言已经提供了相...
- C语言如何处理平台相关代码(c语言的开发平台)
-
在进行跨平台C编程时,不可避免地会遇到需要针对不同操作系统或硬件架构编写特定代码的情况。C语言通过预处理器指令,特别是条件编译指令,为我们提供了处理平台相关代码的有效机制。最常用的就是利用预定义的宏(...
- C语言:hello world(c语言helloworld代码)
-
环境:a.初学者建议用“啊哈C”,这款软件简单易装;b.devc.visualstdiod.Vc6.0第一行代码:#include<stdio.h>#<stdio.h&g...
- C语言之编译器集合(编写c语言编译器)
-
C语言有多种不同的编译器,以下是常见的编译工具及其特点:一、主流C语言编译器1.GCC(GNUCompilerCollection)特点:开源、跨平台,支持多种语言(C、C++、Fortran...
- 适合零基础初学者学习C语言第一课教程,揭开C语言的神秘面纱
-
一、C语言简介我刚接触编程,首先想要学习的就是C语言,这次我就把我的感悟用我自己理解的文字表述出来,这样对刚学C语言的人来说,才是比较友好的。因为我们都没有C语言的基础,不懂啥是编程,啥事代码。我们...
- 一周热门
- 最近发表
- 标签列表
-
- mybatiscollection (79)
- mqtt服务器 (88)
- keyerror (78)
- c#map (65)
- xftp6 (83)
- bt搜索 (75)
- c#var (76)
- xcode-select (66)
- mysql授权 (74)
- 下载测试 (70)
- linuxlink (65)
- pythonwget (67)
- androidinclude (65)
- libcrypto.so (74)
- linux安装minio (74)
- ubuntuunzip (67)
- vscode使用技巧 (83)
- secure-file-priv (67)
- vue阻止冒泡 (67)
- jquery跨域 (68)
- php写入文件 (73)
- kafkatools (66)
- mysql导出数据库 (66)
- jquery鼠标移入移出 (71)
- 取小数点后两位的函数 (73)