तंत्रिका नेटवर्क का उपयोग करके पाठ वार्तालापों में भावनाओं का स्वचालित रूप से पता लगाएं

संवाद प्रणालियों के मुख्य कार्यों में से एक न केवल उपयोगकर्ता को आवश्यक जानकारी प्रदान करना है, बल्कि संभव के रूप में कई मानव उत्तरों को उत्पन्न करना भी है। और वार्ताकार की भावनाओं की पहचान अब केवल एक शांत विशेषता नहीं है, यह एक महत्वपूर्ण आवश्यकता है। इस लेख में, हम पाठ वार्तालापों में भावनाओं को निर्धारित करने के लिए एक आवर्तक तंत्रिका नेटवर्क की वास्तुकला को देखेंगे, जिसने कंप्यूटर भाषा विज्ञान में वार्षिक प्रतियोगिता सेमवाल-2019 टास्क 3 "इमोकोटेक्स्ट" में भाग लिया था। यह कार्य तीन टिप्पणियों की बातचीत में भावनाओं ("खुश", "उदास", "गुस्सा" और "अन्य") को वर्गीकृत करना था, जिसमें एक चैट बॉट और एक व्यक्ति ने भाग लिया।

लेख के पहले भाग में हम EmoContext में निर्धारित कार्य और आयोजकों द्वारा उपलब्ध कराए गए आंकड़ों पर विचार करेंगे। दूसरे और तीसरे भाग में, हम पाठ की प्रारंभिक प्रसंस्करण और शब्दों के वेक्टर प्रतिनिधित्व के तरीकों का विश्लेषण करते हैं। चौथे भाग में, हम LSTM वास्तुकला का वर्णन करते हैं जिसका हमने प्रतियोगिता में उपयोग किया था। कोड को केयर्स लाइब्रेरी का उपयोग करके पायथन में लिखा गया है।

1. प्रशिक्षण डेटा

सेमेवैल -2019 में ट्रैक "एमोकोनटेक्स्ट" पत्राचार के संदर्भ को ध्यान में रखते हुए, पाठ वार्तालापों में भावनाओं की परिभाषा के लिए समर्पित था। इस मामले में संदर्भ संवाद प्रतिभागियों की लगातार कई टिप्पणियां हैं। वार्तालाप में दो प्रतिभागी हैं: एक अनाम उपयोगकर्ता (वह पहले और तीसरे प्रतिकृति का मालिक है) और एक चैट बॉट रुह (वह दूसरी प्रतिकृति का मालिक है)। तीन प्रतिकृतियों के आधार पर, यह निर्धारित करना आवश्यक है कि चैटबॉट (तालिका 1) का उत्तर लिखते समय उपयोगकर्ता ने किस भावना का अनुभव किया। कुल मिलाकर, डेटासेट के मार्कअप में चार भावनाएँ थीं: "खुश", "उदास", "गुस्सा" या "अन्य" (तालिका 1)। एक विस्तृत विवरण यहां प्रस्तुत किया गया है: ( चटर्जी एट अल।, 2019 )।

तालिका 1. एमोकोटेक्स्ट डेटासेट ( चटर्जी एट अल।, 2019 ) के उदाहरण

प्रतियोगिता के दौरान, आयोजकों ने कई डेटा सेट प्रदान किए। प्रशिक्षण डेटासेट (ट्रेन) में मैन्युअल रूप से चिह्नित ग्रंथों में 30,160 शामिल थे। इन ग्रंथों में "खुश", "उदास" और "गुस्से में" कक्षाओं के लगभग 5000 ऑब्जेक्ट थे, साथ ही साथ कक्षा "अन्य" (तालिका 2) से 15000 ग्रंथ भी थे।

आयोजकों ने विकास (देव) और परीक्षण (टेस्ट) के लिए डेटा सेट भी प्रदान किए, जिसमें प्रशिक्षण डाटासेट के विपरीत, भावनाओं के वर्ग द्वारा वितरण वास्तविक जीवन के अनुरूप है: प्रत्येक वर्ग के लिए लगभग 4% "खुश", "उदास" और " गुस्सा ", और बाकी वर्ग" अन्य "है। Microsoft द्वारा प्रदान किया गया डेटा, आप इसे लिंक्डइन पर आधिकारिक समूह में डाउनलोड कर सकते हैं।

तालिका 2. डेटासेट में भावना वर्ग लेबल का वितरण ( चटर्जी एट अल।, 2019 )।

इस डेटा के अलावा, हमने दूर के डेटासेट बनाने के लिए ट्विटर से 900 हजार अंग्रेजी-भाषा के संदेश एकत्र किए (प्रत्येक भावना के लिए 300 हजार ट्वीट)। इसे बनाते समय, हमने गो एट अल की रणनीति का पालन किया। (2009), जिसके ढांचे में संदेश केवल भावनाओं से संबंधित शब्दों की उपस्थिति से जुड़े थे, जैसे #angry, #annoyed, #happy, #sad, # गलत और इतने पर। शब्दों की सूची सेमीएवल-2018 एआईटी डीआईएससी ( डुप्पाडा एट अल, 2018 ) की शर्तों पर आधारित है।

EmoContext प्रतियोगिता में मुख्य गुणवत्ता मीट्रिक भावनाओं के तीन वर्गों के लिए औसत F1 माप है, जो कि "खुश", "उदास" और "नाराज" वर्गों के लिए है।

def preprocessData(dataFilePath, mode): conversations = [] labels = [] with io.open(dataFilePath, encoding="utf8") as finput: finput.readline() for line in finput: line = line.strip().split('\t') for i in range(1, 4): line[i] = tokenize(line[i]) if mode == "train": labels.append(emotion2label[line[4]]) conv = line[1:4] conversations.append(conv) if mode == "train": return np.array(conversations), np.array(labels) else: return np.array(conversations) texts_train, labels_train = preprocessData('./starterkitdata/train.txt', mode="train") texts_dev, labels_dev = preprocessData('./starterkitdata/dev.txt', mode="train") texts_test, labels_test = preprocessData('./starterkitdata/test.txt', mode="train") 

2. पाठ पूर्व प्रसंस्करण

प्रशिक्षण से पहले, हमने एकफ्रसिस टूल (बाजोटिस एट अल।, 2017) का उपयोग करके ग्रंथों को पूर्व-संसाधित किया। यह वर्तनी को सही करने में मदद करता है, शब्दों, सेगमेंट को सामान्य करता है, और यह भी निर्धारित करता है कि कौन से टैग का उपयोग करके टोकन को गिराया, सामान्य या एनोटेट किया जाना चाहिए। प्री-प्रोसेसिंग स्टेज पर, हमने निम्नलिखित कार्य किए:

• URL और मेल, दिनांक और समय, उपनाम, प्रतिशत, मुद्राएं और संख्याएँ संबंधित टैग के साथ बदल दी गईं।
• दोहराए, सेंसर किए गए, लम्बी अपरकेस शब्द हमने उचित लेबल के साथ लगाए।
• बढ़े हुए शब्दों को स्वचालित रूप से ठीक किया गया है।

इसके अलावा, जोर में एक टोकन होता है जो अधिकांश इमोजी, इमोटिकॉन्स और जटिल अभिव्यक्तियों की पहचान कर सकता है, साथ ही तिथियां, समय, मुद्राएं और परिवर्णी शब्द भी।

तालिका 3. पाठ प्रीप्रोसेसिंग के उदाहरण।

 from ekphrasis.classes.preprocessor import TextPreProcessor from ekphrasis.classes.tokenizer import SocialTokenizer from ekphrasis.dicts.emoticons import emoticons import numpy as np import re import io label2emotion = {0: "others", 1: "happy", 2: "sad", 3: "angry"} emotion2label = {"others": 0, "happy": 1, "sad": 2, "angry": 3} emoticons_additional = { '(^・^)': '<happy>', ':‑c': '<sad>', '=‑d': '<happy>', ":'‑)": '<happy>', ':‑d': '<laugh>', ':‑(': '<sad>', ';‑)': '<happy>', ':‑)': '<happy>', ':\\/': '<sad>', 'd=<': '<annoyed>', ':‑/': '<annoyed>', ';‑]': '<happy>', '(^ ^)': '<happy>', 'angru': 'angry', "d‑':": '<annoyed>', ":'‑(": '<sad>', ":‑[": '<annoyed>', '( ? )': '<happy>', 'x‑d': '<laugh>', } text_processor = TextPreProcessor( # terms that will be normalized normalize=['url', 'email', 'percent', 'money', 'phone', 'user', 'time', 'url', 'date', 'number'], # terms that will be annotated annotate={"hashtag", "allcaps", "elongated", "repeated", 'emphasis', 'censored'}, fix_html=True, # fix HTML tokens # corpus from which the word statistics are going to be used # for word segmentation segmenter="twitter", # corpus from which the word statistics are going to be used # for spell correction corrector="twitter", unpack_hashtags=True, # perform word segmentation on hashtags unpack_contractions=True, # Unpack contractions (can't -> can not) spell_correct_elong=True, # spell correction for elongated words # select a tokenizer. You can use SocialTokenizer, or pass your own # the tokenizer, should take as input a string and return a list of tokens tokenizer=SocialTokenizer(lowercase=True).tokenize, # list of dictionaries, for replacing tokens extracted from the text, # with other expressions. You can pass more than one dictionaries. dicts=[emoticons, emoticons_additional] ) def tokenize(text): text = " ".join(text_processor.pre_process_doc(text)) return text 

3. शब्दों का वेक्टर प्रतिनिधित्व

वेक्टर प्रतिनिधित्व गहरी शिक्षा का उपयोग करते हुए एनएलपी-सिस्टम के निर्माण के अधिकांश दृष्टिकोणों का एक अभिन्न अंग बन गया है। सबसे उपयुक्त वेक्टर मैपिंग मॉडल का निर्धारण करने के लिए, हमने Word2Vec ( मिकोलोव एट अल।, 2013 ), ग्लोवी ( पेनिंगटन एट अल।, 2014 ) और फास्टटैक्स ( जूलिन एट अल।, 2017 ) की कोशिश की, साथ ही साथ पूर्व-प्रशिक्षित डेटास्टोरेज वैक्टर ( बाजोटिस एट अल)। ।, 2017 )। Word2Vec शब्दों के बीच संबंधों को यह मानकर चलता है कि शब्द संबंधी शब्द समान संदर्भों में पाए जाते हैं। Word2Vec लक्ष्य शब्द (CBOW आर्किटेक्चर) या संदर्भ (Skip-Gram आर्किटेक्चर) की भविष्यवाणी करने की कोशिश करता है, अर्थात, हानि फ़ंक्शन को कम करता है, और GloVe शब्द वैक्टर की गणना करता है, आसन्न मैट्रिक्स के आयाम को कम करता है। FastText का तर्क Word2Vec के तर्क के समान है, सिवाय इसके कि यह शब्द वैक्टर बनाने के लिए प्रतीकात्मक n-ग्राम का उपयोग करता है, और परिणामस्वरूप, यह अज्ञात शब्दों की समस्या को हल कर सकता है।

सभी उल्लिखित मॉडल के लिए, हम लेखकों द्वारा प्रदान किए गए डिफ़ॉल्ट प्रशिक्षण मापदंडों का उपयोग करते हैं। हमने इनमें से प्रत्येक सदिश निरूपण के आधार पर एक सरल LSTM मॉडल (मंद = 64) का प्रशिक्षण दिया और क्रॉस-सत्यापन का उपयोग करके वर्गीकरण दक्षता की तुलना की। एफ 1 उपायों में सबसे अच्छा परिणाम पूर्व-प्रशिक्षित डेटास्टोर वैक्टर द्वारा दिखाया गया था।

शब्दों के भावनात्मक रंग के साथ चयनित वेक्टर मानचित्रण को समृद्ध करने के लिए, हमने स्वचालित रूप से लेबल किए गए दूर के डेटासेट ( Deriu et al।, 2017 ) का उपयोग करके वैक्टर को ठीक करने का निर्णय लिया। हमने "खराब", "उदास" और "खुश" संदेशों को वर्गीकृत करने के लिए एक सरल LSTM नेटवर्क को प्रशिक्षित करने के लिए दूर के डेटासेट का उपयोग किया। प्रशिक्षण की पहली पुनरावृत्ति के दौरान एम्बेडिंग परत जमी हुई थी ताकि वैक्टरों के वजन में मजबूत बदलाव न हो सके, और अगले पांच पुनरावृत्तियों के लिए परत को पिघलाया गया। प्रशिक्षण के बाद, "विलंबित" वैक्टर को तंत्रिका नेटवर्क में बाद के उपयोग के लिए सहेजा गया, साथ ही साथ साझा भी किया गया ।

 def getEmbeddings(file): embeddingsIndex = {} dim = 0 with io.open(file, encoding="utf8") as f: for line in f: values = line.split() word = values[0] embeddingVector = np.asarray(values[1:], dtype='float32') embeddingsIndex[word] = embeddingVector dim = len(embeddingVector) return embeddingsIndex, dim def getEmbeddingMatrix(wordIndex, embeddings, dim): embeddingMatrix = np.zeros((len(wordIndex) + 1, dim)) for word, i in wordIndex.items(): embeddingMatrix[i] = embeddings.get(word) return embeddingMatrix from keras.preprocessing.text import Tokenizer embeddings, dim = getEmbeddings('emosense.300d.txt') tokenizer = Tokenizer(filters='') tokenizer.fit_on_texts([' '.join(list(embeddings.keys()))]) wordIndex = tokenizer.word_index print("Found %s unique tokens." % len(wordIndex)) embeddings_matrix = getEmbeddingMatrix(wordIndex, embeddings, dim) 

4. तंत्रिका नेटवर्क वास्तुकला

आवर्तक तंत्रिका नेटवर्क (आरएनएन) तंत्रिका नेटवर्क का एक परिवार है जो घटनाओं की एक श्रृंखला के प्रसंस्करण में विशेषज्ञ हैं। पारंपरिक तंत्रिका नेटवर्क के विपरीत, RNN को आंतरिक संतुलन का उपयोग करके अनुक्रम के साथ काम करने के लिए डिज़ाइन किया गया है। इसके लिए, कम्प्यूटेशनल ग्राफ RNN में चक्र शामिल हैं जो वर्तमान एक पर घटनाओं के अनुक्रम से पिछली जानकारी के प्रभाव को दर्शाते हैं। LSTM न्यूरल नेटवर्क (लॉन्ग शॉर्ट-टर्म मेमोरी) को 1997 में RNN ( Hochreiter और Schmidhuber, 1997 ) के विस्तार के रूप में पेश किया गया था। LSTM पुनरावृत्ति कोशिकाएं फट और फीकी समस्याओं से बचने के लिए जुड़ी हुई हैं। पारंपरिक LSTM केवल पिछली जानकारी को संरक्षित करते हैं क्योंकि वे अनुक्रम को एक दिशा में संसाधित करते हैं। दोनों दिशाओं में काम करने वाले द्विदिश LSTM दो छिपे हुए LSTM परतों के उत्पादन को जोड़ते हैं जो विपरीत दिशाओं में सूचना प्रसारित करते हैं - एक तो समय के दौरान और दूसरा विरुद्ध - जिससे एक साथ अतीत और भविष्य के राज्यों ( Schuster और Paliwal, 1997 ) का डेटा प्राप्त होता है।


चित्र 1: वास्तुकला का कम किया हुआ संस्करण। LSTM मॉड्यूल पहले और तीसरे चरण के लिए समान भार का उपयोग करता है।

वर्णित दृष्टिकोण का एक सरलीकृत प्रतिनिधित्व चित्र 1 में प्रस्तुत किया गया है। तंत्रिका नेटवर्क की वास्तुकला में एक एम्बेडिंग परत और दो द्विदिश एलटीएसएम मॉड्यूल (मंद = 64) हैं। पहला LTSM मॉड्यूल पहले उपयोगकर्ता (यानी, वार्तालाप की पहली और तीसरी प्रतिकृति) के शब्दों का विश्लेषण करता है, और दूसरा मॉड्यूल दूसरे उपयोगकर्ता (दूसरे प्रतिकृति) के शब्दों का विश्लेषण करता है। पहले चरण में, पूर्व-प्रशिक्षित वेक्टर अभ्यावेदन का उपयोग करने वाले प्रत्येक उपयोगकर्ता के शब्दों को संबंधित द्विदिश एलटीएसएम मॉड्यूल में खिलाया जाता है। फिर परिणामी तीन फीचर मैप्स को एक फ्लैट फीचर वेक्टर में संयोजित किया जाता है, और फिर एक पूरी तरह से जुड़े हुए छिपी परत (मंद = 30) में स्थानांतरित कर दिया जाता है, जो निकाले गए विशेषताओं के बीच बातचीत का विश्लेषण करता है। अंत में, इन विशेषताओं को अंतिम वर्ग लेबल को निर्धारित करने के लिए सॉफ्टमैक्स सक्रियण फ़ंक्शन का उपयोग करके आउटपुट परत में संसाधित किया जाता है। ओवरफ़िटिंग को कम करने के लिए, वेक्टर प्रतिनिधित्व की परतों के बाद, गॉसियन शोर के साथ नियमितीकरण परतें जोड़ी गईं, और प्रत्येक एलटीएसएम मॉड्यूल (पी = 0.2) और ड्रॉपडाउन परतों को एक छिपी हुई पूरी तरह से जुड़ी परत (पी = 0.1) और श्रीवास्तव एट अल, 2014 में जोड़ा गया । )।

 from keras.layers import Input, Dense, Embedding, Concatenate, Activation, \ Dropout, LSTM, Bidirectional, GlobalMaxPooling1D, GaussianNoise from keras.models import Model def buildModel(embeddings_matrix, sequence_length, lstm_dim, hidden_layer_dim, num_classes, noise=0.1, dropout_lstm=0.2, dropout=0.2): turn1_input = Input(shape=(sequence_length,), dtype='int32') turn2_input = Input(shape=(sequence_length,), dtype='int32') turn3_input = Input(shape=(sequence_length,), dtype='int32') embedding_dim = embeddings_matrix.shape[1] embeddingLayer = Embedding(embeddings_matrix.shape[0], embedding_dim, weights=[embeddings_matrix], input_length=sequence_length, trainable=False) turn1_branch = embeddingLayer(turn1_input) turn2_branch = embeddingLayer(turn2_input) turn3_branch = embeddingLayer(turn3_input) turn1_branch = GaussianNoise(noise, input_shape=(None, sequence_length, embedding_dim))(turn1_branch) turn2_branch = GaussianNoise(noise, input_shape=(None, sequence_length, embedding_dim))(turn2_branch) turn3_branch = GaussianNoise(noise, input_shape=(None, sequence_length, embedding_dim))(turn3_branch) lstm1 = Bidirectional(LSTM(lstm_dim, dropout=dropout_lstm)) lstm2 = Bidirectional(LSTM(lstm_dim, dropout=dropout_lstm)) turn1_branch = lstm1(turn1_branch) turn2_branch = lstm2(turn2_branch) turn3_branch = lstm1(turn3_branch) x = Concatenate(axis=-1)([turn1_branch, turn2_branch, turn3_branch]) x = Dropout(dropout)(x) x = Dense(hidden_layer_dim, activation='relu')(x) output = Dense(num_classes, activation='softmax')(x) model = Model(inputs=[turn1_input, turn2_input, turn3_input], outputs=output) model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['acc']) return model model = buildModel(embeddings_matrix, MAX_SEQUENCE_LENGTH, lstm_dim=64, hidden_layer_dim=30, num_classes=4) 

5. परिणाम

इष्टतम वास्तुकला की खोज में, हमने न केवल परतों में न्यूरॉन्स की संख्या, सक्रियण कार्यों और नियमितीकरण मापदंडों के साथ प्रयोग किया, बल्कि तंत्रिका नेटवर्क की वास्तुकला के साथ भी प्रयोग किया। यह मूल काम में अधिक विस्तार से वर्णित है।

पिछले अनुभाग में वर्णित वास्तुकला ने ट्रेन डेटासेट पर प्रशिक्षण और देव डेटासेट पर सत्यापन के दौरान सर्वोत्तम परिणाम दिखाए, इसलिए इसका उपयोग प्रतियोगिता के अंतिम चरण में किया गया था। अंतिम परीक्षण डेटासेट में, मॉडल ने 72.59% का एक सूक्ष्म-औसत F1 माप दिखाया, और सभी प्रतिभागियों के बीच अधिकतम प्राप्त परिणाम 79.59% था। फिर भी, हमारा परिणाम आयोजकों द्वारा निर्धारित 58.68% के आधारभूत मूल्य से बहुत अधिक था।

गीथहब पर शब्दों के मॉडल और वेक्टर प्रतिनिधित्व के लिए स्रोत कोड उपलब्ध है।
लेख का पूरा संस्करण और कार्य विवरण के साथ काम एसीएल एंथोलॉजी वेबसाइट पर हैं।
प्रशिक्षण डेटासेट को आधिकारिक लिंक्डइन समूह से डाउनलोड किया जा सकता है।

प्रशस्ति पत्र:

 @inproceedings{smetanin-2019-emosense, title = "{E}mo{S}ense at {S}em{E}val-2019 Task 3: Bidirectional {LSTM} Network for Contextual Emotion Detection in Textual Conversations", author = "Smetanin, Sergey", booktitle = "Proceedings of the 13th International Workshop on Semantic Evaluation", year = "2019", address = "Minneapolis, Minnesota, USA", publisher = "Association for Computational Linguistics", url = "https://www.aclweb.org/anthology/S19-2034", pages = "210--214", }