ELMo

ELMo — це одна з систем вкладання слів для представляння слів та фраз як векторів.[1] Лексеми рівня символів беруть як входи до двоспрямованої ДКЧП, що виробляє вкладення рівня слів. Як і BERT (але на відміну від вкладень слів, які виробляють підходи «торби слів» та раніші векторні підходи, такі як word2vec та GloVe), вкладання ELMo є чутливими до контексту, виробляючи відмінні представлення для слів, що мають однакове написання, але різні значення (омоніми), такі як англ. bank у англ. river bank (річковий берег) та англ. bank balance (банківський залишок).

Її побудував та підтримує Інститут Аллена науки про мозок.[2]

Примітки
  1. A bot will complete this citation soon. Click here to jump the queue«Deep contextualized word representations». arXiv:1802.05365. 2018. (англ.)
  2. https://allennlp.org/elmo
This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.