Tra khán “︁Word2vec” ︁ đích nguyên đại mã

{{ cơ khí học tập đạo hàng lan }}
{{RoughTranslation}}
'''Word2vec''' thị nhất quần dụng lai sản sinh [[ từ khảm nhập | từ hướng lượng ]] đích tương quan mô hình. Giá ta mô hình vi thiển tằng song tằng đích [[ thần kinh võng lộ ]], dụng lai huấn luyện dĩ trọng tân kiến cấu ngữ ngôn học chi từ văn bổn. Võng lộ dĩ từ biểu hiện, tịnh thả nhu sai trắc tương lân vị trí đích thâu nhập từ, tại word2vec trung [[ từ đại mô hình ]] giả thiết hạ, từ đích thuận tự thị bất trọng yếu đích.

Huấn luyện hoàn thành chi hậu, word2vec mô hình khả dĩ bả mỗi cá từ ánh xạ đáo nhất cá hướng lượng, lai biểu kỳ từ dữ từ chi gian đích quan hệ. Cai hướng lượng vi thần kinh võng lộ đích ẩn tàng tằng <ref name= "mikolov" >{{cite web|first=Tomas|last=Mikolov|title=Efficient Estimation of Word Representations in Vector Space|url=http://arxiv.org/pdf/1301.3781.pdf|accessdate=2015-08-14|display-authors=etal|archive-date=2022-05-09|archive-url=https://web.archive.org/web/20220509180219/https://arxiv.org/pdf/1301.3781.pdf}}</ref>.

Word2vec y lại skip-grams hoặc [[ từ đại mô hình | liên tục từ đại ]] ( CBOW ) lai kiến lập thần kinh từ khảm nhập. Word2vec vi thác mã tư · mễ khoa lạc phu ( Tomas Mikolov ) tại [[Google]] đái lĩnh đích nghiên cứu đoàn đội sang tạo. Cai diễn toán pháp tiệm tiệm bị kỳ tha nhân sở phân tích hòa giải thích <ref name= "explain" >{{cite web |first1=Yoav |last1=Goldberg |first2=Omar |last2=Levy |title=word2vec Explained: Deriving Mikolov et al.’s Negative-Sampling Word-Embedding Method |url=http://arxiv.org/pdf/1402.3722v1.pdf |accessdate=2015-08-14 |archive-date=2022-01-22 |archive-url=https://web.archive.org/web/20220122002315/http://arxiv.org/pdf/1402.3722v1.pdf }}</ref><ref name= "extensions" >{{cite AV media|first=Radim|last=Řehůřek|title=Word2vec and friends|medium=Youtube video|url=https://www.youtube.com/watch?v=wTp3P2UnTfQ|accessdate=2015-08-14|archive-date=2020-05-22|archive-url=https://web.archive.org/web/20200522072228/https://www.youtube.com/watch?v=wTp3P2UnTfQ&gl=US&hl=en}}</ref>.

==Skip-grams hòa CBOW ==
CBOW bả nhất cá từ tòng từ song dịch trừ. Tại CBOW hạ cấp định {{mvar|n}} từ vi nhiễu trứ từ {{mvar|w}}, word2vec dự trắc nhất cá cú tử trung kỳ trung nhất cá khuyết lậu đích từ {{mvar|c}}, tức dĩ cơ suất <math>p(c|w)</math> lai biểu kỳ. Tương phản địa, Skip-gram cấp định từ song trung đích văn bổn, dự trắc đương tiền đích từ <math>p(w|c)</math>.

== diên thân ==
Word2vec dụng lai kiến cấu chỉnh phân văn kiện ( nhi phân độc lập đích từ ) đích diên thân ứng dụng dĩ bị đề xuất <ref name= "doc2vec" >{{cite web|first=Quoc|last=Le|title=Distributed Representations of Sentences and Documents.|url=http://arxiv.org/pdf/1405.4053v2.pdf|accessdate=2016-02-18|display-authors=etal|archive-date=2021-11-23|archive-url=https://web.archive.org/web/20211123033159/https://arxiv.org/pdf/1405.4053v2.pdf}}</ref>,
Cai diên thân xưng vi paragraph2vec hoặc doc2vec, tịnh thả dụng C, Python<ref name= "doc2vec_python" >{{cite web|title=Doc2Vec tutorial using Gensim|url=https://medium.com/@klintcho/doc2vec-tutorial-using-gensim-ab3ac03d3a1|accessdate=2015-08-02|display-authors=etal|archive-date=2021-01-23|archive-url=https://web.archive.org/web/20210123122255/https://medium.com/@klintcho/doc2vec-tutorial-using-gensim-ab3ac03d3a1}}</ref><ref name= "doc2vec_imdb" >{{cite web|title=Doc2vec for IMDB sentiment analysis|url=https://github.com/piskvorky/gensim/blob/develop/docs/notebooks/doc2vec-IMDB.ipynb|accessdate=2016-02-18|display-authors=etal|archive-date=2020-01-07|archive-url=https://web.archive.org/web/20200107172512/https://github.com/RaRe-Technologies/gensim/blob/develop/docs/notebooks/doc2vec-IMDB.ipynb|dead-url=no}}</ref> hòa Java/Scala<ref name= "doc2vec_java" >{{cite web|title=Doc2Vec and Paragraph Vectors for Classification|url=http://deeplearning4j.org/doc2vec.html|accessdate=2016-01-13|display-authors=etal|archive-url=https://web.archive.org/web/20151231073758/http://deeplearning4j.org/doc2vec.html|archive-date=2015-12-31|dead-url=yes}}</ref> thật tố thành công cụ ( tham khảo hạ phương ). Java hòa Python dã chi viện thôi đoạn văn kiện khảm nhập ô vị quan trắc đích văn kiện.

== phân tích ==
Đối word2vec khuông giá vi hà tố [[ từ khảm nhập ]] như thử thành công tri chi thậm thiếu, ước a phu · ca đức bảo ( Yoav Goldberg ) hòa âu mạc · liệt duy ( Omer Levy ) chỉ xuất word2vec đích công năng đạo trí tương tự văn bổn ủng hữu tương tự đích khảm nhập ( dụng [[ dư huyền tương tự tính ]] kế toán ) tịnh thả hòa [[ ước hàn · lỗ bá đặc · phất tư ]] đích {{link-en| phân bố ngữ nghĩa |Distributional semantics| phân bố giả thuyết }} hữu quan.

== thật tác ==
* [https://code.google.com/p/word2vec/ C] {{Wayback|url=https://code.google.com/p/word2vec/ |date=20160310194120 }}
* [https://web.archive.org/web/20160305131924/http://deeplearning4j.org/word2vec.html Java/Scala]
* [https://github.com/tensorflow/tensorflow/blob/r1.1/tensorflow/examples/tutorials/word2vec/word2vec_basic.py Python] {{Wayback|url=https://github.com/tensorflow/tensorflow/blob/r1.1/tensorflow/examples/tutorials/word2vec/word2vec_basic.py |date=20200324104847 }}
* [http://radimrehurek.com/gensim/models/word2vec.html Python] {{Wayback|url=http://radimrehurek.com/gensim/models/word2vec.html |date=20201030161741 }}

== tham kiến ==
* [[ hướng lượng không gian mô hình ]]

== tham khảo văn hiến ==
{{Reflist|30em}}

{{ tự nhiên ngữ ngôn xử lý }}
{{Differentiable computing}}

[[Category: Tự do nhuyễn kiện ]]
[[Category: Tự nhiên ngữ ngôn xử lý ]]
[[Category: Nhân công thần kinh võng lạc ]]
[[Category: Cơ khí học tập ]]