大模型知识 – 科技前线Plus

大模型的注意力机制

2024年8月14日作者 iPhonePlay

Transformer 模型之所以如此强大，是因为它抛弃了之前广泛采用的循环网络和卷积网络，而采用了一种特殊的 … 阅读更多

2024年8月8日作者 iPhonePlay

大模型参数（Model Parameters）是深度学习模型的核心组成部分，对模型的性能起着关键性作用。大模型 … 阅读更多

2024年8月8日作者 iPhonePlay

大语言模型能够取得成功主要依赖以下几项关键技术：规模扩展：只有规模达到一定程度模型才会展现出上下文学习、思维 … 阅读更多

2024年8月4日作者 iPhonePlay

ChatGPT 是怎么被训练的预训练在使用 ChatGPT 的时候你会发现它对于人类世界非常了解，它不但能 … 阅读更多

2024年8月2日2024年8月1日作者 iPhonePlay

自从 BERT 和 GPT 模型取得重大成功之后， Transformer 结构已经替代了循环神经网络 (RN … 阅读更多

2024年8月1日2024年7月29日作者 iPhonePlay

先简单介绍一下自然语言处理的发展历史以及 Transformer 模型的概念，这对于后面理解模型结构会有很大帮 … 阅读更多

2024年7月26日作者 iPhonePlay

大模型是指参数规模较大的预训练模型。这些模型通常具有数十亿甚至数千亿个参数，需要在大量硬件资源上进行训练。大模 … 阅读更多