新聞中心
怎么在python中提取文本信息?很多新手對此不是很清楚,為了幫助大家解決這個難題,下面小編將為大家詳細講解,有這方面需求的人可以來學習下,希望你能有所收獲。
創(chuàng)新互聯(lián)建站專注于企業(yè)營銷型網(wǎng)站、網(wǎng)站重做改版、鶴慶網(wǎng)站定制設計、自適應品牌網(wǎng)站建設、HTML5、購物商城網(wǎng)站建設、集團公司官網(wǎng)建設、外貿(mào)網(wǎng)站制作、高端網(wǎng)站制作、響應式網(wǎng)頁設計等建站業(yè)務,價格優(yōu)惠性價比高,為鶴慶等各大城市提供網(wǎng)站開發(fā)制作服務。
Python主要用來做什么
Python主要應用于:1、Web開發(fā);2、數(shù)據(jù)科學研究;3、網(wǎng)絡爬蟲;4、嵌入式應用開發(fā);5、游戲開發(fā);6、桌面應用開發(fā)。
1、信息提取
先用句子分段器將文檔的原始文本分成句子,再用記號賦值器將每個句子進一步分成單詞。其次,給每一個句子做詞性標記。以nltk中的默認工具為例,將句子分段器、分詞器、詞性標記器連接。
def ie_preprocess(document): # nltk 默認的句子分段器 sentences = nltk.sent_tokenize(document) # nltk默認分詞器 sentences = [nltk.word_tokenize(sent) for sent in sentences] # nltk默認詞性標記 sentences = [nltk.pos_tag(sent) for sent in sentences]
2、詞塊劃分
詞塊劃分是實體識別的基礎技術,對多個詞的順序進行劃分和標記。
如Noun Phrase Chunking(名詞短語詞塊劃分)
使用正則表達式來定義一個語法,來進行名詞短語詞塊的劃分
3、開發(fā)和評估詞塊劃分器
分區(qū)器可以用evaluate()方法評價分區(qū)器的性能好壞。
以下是使用一元標記來建立單詞塊分割器的學習。但是,不是確定每個單詞的正確單詞性標記,而是根據(jù)每個單詞的單詞性標記,確定正確的單詞塊標記。
# 使用一元標注器建立一個詞塊劃分器。根據(jù)每個詞的詞性標記,嘗試確定正確的詞塊標記。 class UnigramChunker(nltk.ChunkParserI): # constructor def __init__(self, train_sents): # 將訓練數(shù)據(jù)轉(zhuǎn)換成適合訓練標注器的形式。tree2conlltags()方法將每個詞塊樹映射到一個三元組(word,tag,chunk)的列表 train_data = [[(t, c) for w, t, c in nltk.chunk.tree2conlltags(sent)] for sent in train_sents] # 訓練一元分塊器 # self.tagger = nltk.UnigramTagger(train_data) # 訓練二元分塊器 self.tagger = nltk.BigramTagger(train_data) # sentence為一個已標注的句子 def parse(self, sentence): # 提取詞性標記 pos_tags = [pos for (word, pos) in sentence] # 使用標注器為詞性標記 標注IOB詞塊 tagged_pos_tags = self.tagger.tag(pos_tags) # 提取詞塊標記 chunktags = [chunktag for (pos, chunktag) in tagged_pos_tags] # 將詞塊標記與原句組合 conlltags = [(word, pos, chunktag) for ((word, pos), chunktag) in zip(sentence, chunktags)] # 轉(zhuǎn)換成詞塊樹 return nltk.chunk.conlltags2tree(conlltags)
看完上述內(nèi)容是否對您有幫助呢?如果還想對相關知識有進一步的了解或閱讀更多相關文章,請關注創(chuàng)新互聯(lián)行業(yè)資訊頻道,感謝您對創(chuàng)新互聯(lián)的支持。
網(wǎng)頁名稱:怎么在python中提取文本信息
路徑分享:http://fisionsoft.com.cn/article/jjphds.html