Python NLTK | nltk。tweeter token izer()

哎哎哎::1230【https://www . geeksforgeeks . org/python-nltk-nltk 推文器/

借助**NLTK nltk.TweetTokenizer()**方法,我们能够将单词流转换成小的小标记,以便借助nltk.TweetTokenizer()方法分析音频流。

语法: nltk.TweetTokenizer() 返回: 返回令牌之流

示例#1 : 在本例中,当我们以字符串形式传递音频流时,借助nltk.TweetTokenizer()方法,它将从一个长字符串转换为小标记。

# import TweetTokenizer() method from nltk
from nltk.tokenize import TweetTokenizer

# Create a reference variable for Class TweetTokenizer
tk = TweetTokenizer()

# Create a string input
gfg = "Geeks for Geeks"

# Use tokenize method
geek = tk.tokenize(gfg)

print(geek)

输出:

[“极客”,“为”,“极客”

例 2 :

# import TweetTokenizer() method from nltk
from nltk.tokenize import TweetTokenizer

# Create a reference variable for Class TweetTokenizer
tk = TweetTokenizer()

# Create a string input
gfg = ":-) <> () {} [] :-p"

# Use tokenize method
geek = tk.tokenize(gfg)

print(geek)

输出:

[':-)',",'(',')',' { ',' } ','[',']',':-p']