John Snow Labs
John Snow Labs NLP & LLM 生态系统包括用于大规模最先进人工智能、负责任的人工智能、无代码人工智能的软件库,以及访问超过20,000个用于医疗保健、法律、金融等领域的模型。
模型通过nlp.load加载,并且Spark会话在后台通过nlp.start()启动。 有关所有24,000多个模型,请参见John Snow Labs模型中心
设置
%pip install --upgrade --quiet johnsnowlabs
# If you have a enterprise license, you can run this to install enterprise features
# from johnsnowlabs import nlp
# nlp.install()
示例
from langchain_community.embeddings.johnsnowlabs import JohnSnowLabsEmbeddings
API Reference:JohnSnowLabsEmbeddings
初始化Johnsnowlabs嵌入和Spark会话
embedder = JohnSnowLabsEmbeddings("en.embed_sentence.biobert.clinical_base_cased")
定义一些示例文本。这些可以是您想要分析的任何文档 - 例如,新闻文章、社交媒体帖子或产品评论。
texts = ["Cancer is caused by smoking", "Antibiotics aren't painkiller"]
生成并打印文本的嵌入。JohnSnowLabsEmbeddings类为每个文档生成一个嵌入,这是文档内容的数值表示。这些嵌入可以用于各种自然语言处理任务,例如文档相似性比较或文本分类。
embeddings = embedder.embed_documents(texts)
for i, embedding in enumerate(embeddings):
print(f"Embedding for document {i+1}: {embedding}")
生成并打印一段文本的嵌入。你也可以为一段文本(如搜索查询)生成嵌入。这对于信息检索等任务非常有用,在这些任务中,你希望找到与给定查询相似的文档。
query = "Cancer is caused by smoking"
query_embedding = embedder.embed_query(query)
print(f"Embedding for query: {query_embedding}")