BertViz: Visualize Attention in NLP Models (BERT, GPT2, BART, etc.)

GPT2 for Chinese chitchat/ dùng cho tiếng Trung nói chuyện phiếm GPT2 mô hình ( thực hiện DialoGPT MMI tư tưởng )

Tiếng Trung nlp giải quyết phương án ( đại mô hình, số liệu, mô hình, huấn luyện, trinh thám )

RoBERTa tiếng Trung dự huấn luyện mô hình: RoBERTa for Chinese

a fast and user-friendly runtime for transformer inference (Bert, Albert, GPT2, Decoders, etc) on CPU and GPU.

pytorch thực hiện Bert làm seq2seq nhiệm vụ, sử dụng unilm phương án, hiện tại cũng có thể làm tự động trích yếu, văn bản phân loại, tình cảm phân tích, NER, từ tính đánh dấu chờ nhiệm vụ, duy trì t5 mô hình, duy trì GPT2 tiến hành văn chương tục viết.

Human ChatGPT Comparison Corpus (HC3), Detectors, and more! 🔥

Chinese NewsTitle Generation Project by GPT2. Có chứa siêu cấp kỹ càng tỉ mỉ chú thích tiếng Trung GPT2 tin tức tiêu đề sinh thành hạng mục.

Simple Text-Generator with OpenAI gpt-2 Pytorch Implementation

TextGen: Implementation of Text Generation models, include LLaMA, BLOOM, GPT2, BART, T5, SongNet and so on. Văn bản sinh thành mô hình, thực hiện bao gồm LLaMA, ChatGLM, BLOOM, GPT2, Seq2Seq, BART, T5, UDA chờ mô hình huấn luyện cùng đoán trước, khai rương tức dùng.

Adan: Adaptive Nesterov Momentum Algorithm for Faster Optimizing Deep Models

Pre-trained Transformers for Arabic Language Understanding and Generation (Arabic BERT, Arabic GPT2, Arabic ELECTRA)

Code for producing Japanese pretrained models provided by rinna Co., Ltd.

A PyTorch implementation of "Graph Wavelet Neural Network" (ICLR 2019)

Easy-to-use CPM for Chinese text generation ( căn cứ vào CPM tiếng Trung văn bản sinh thành )

NLP lĩnh vực thường thấy nhiệm vụ thực hiện, bao gồm tân từ phát hiện, cùng với căn cứ vào pytorch từ vector, tiếng Trung văn bản phân loại, thật thể phân biệt, trích yếu văn bản sinh thành, câu tương tự độ phán đoán, tam nguyên tổ rút ra, dự huấn luyện mô hình chờ.

Guide: Finetune GPT2-XL (1.5 Billion Parameters) and finetune GPT-NEO (2.7 B) on a single GPU with Huggingface Transformers using DeepSpeed

MindSpore online courses: Step into LLM

1. Use BERT, ALBERT and GPT2 as tensorflow2.0's layer. 2. Implement GCN, GAN, GIN and GraphSAGE based on message passing.

PyTorch Implementation of OpenAI GPT-2