為什么mAP已成為目標(biāo)檢測(cè)的首選指標(biāo)？

計(jì)算機(jī)視覺(jué)界已經(jīng)集中在度量 mAP 上，來(lái)比較目標(biāo)檢測(cè)系統(tǒng)的性能。

2023-04-10 標(biāo)簽：MAP計(jì)算機(jī)視覺(jué)AUC 1398 0

通俗易懂chatGPT原理

收集NLP各種任務(wù)的數(shù)據(jù)集，加上任務(wù)描述和提示組裝成新的數(shù)據(jù)集，并使用這些數(shù)據(jù)微調(diào)預(yù)訓(xùn)練的大型語(yǔ)言模型。包括指令微調(diào)和有監(jiān)督微調(diào)。

2023-04-07 標(biāo)簽：數(shù)據(jù)集nlpChatGPT 1878 0

大型語(yǔ)言模型綜述全新出爐！從T5到GPT-4最全盤點(diǎn)

LLM 的涌現(xiàn)能力被正式定義為「在小型模型中不存在但在大型模型中出現(xiàn)的能力」，這是 LLM 與以前的 PLM 區(qū)分開(kāi)來(lái)的最顯著特征之一。當(dāng)出現(xiàn)這種新的能...

2023-04-04 標(biāo)簽：語(yǔ)言模型nlp 1333 0

基于GLM-6B對(duì)話模型的實(shí)體屬性抽取項(xiàng)目實(shí)現(xiàn)解析

Zero-shot、One-shot以及Few-shot讓人傻傻分不清，讀了很多文章，也沒(méi)搞清楚他們的差別，究竟什么叫zero-shot，其在應(yīng)用過(guò)程中...

2023-03-28 標(biāo)簽：iclCLSnlp 7528 0

GPT-4發(fā)布后，你的NLP研究發(fā)生了怎樣的變化？

舉Parsing的例子主要是想說(shuō)，Parsing領(lǐng)域的今天就是很多NLP子領(lǐng)域的明天。NLP很多dalao都是做Parsing起家，那他們?yōu)槭裁船F(xiàn)在不做...

2023-03-27 標(biāo)簽：算法GPTnlp 1274 0

一文解析In-Context Learning

本文主要以實(shí)驗(yàn)為主，探究以上影響 ICL 的因素。 實(shí)驗(yàn)設(shè)置 作者采用 12 個(gè)模型進(jìn)行了實(shí)驗(yàn)。我們包括 6 種語(yǔ)言模型（表 1），所有這些模型...

2023-03-22 標(biāo)簽：nlpChatGPT 4079 0

NLP數(shù)據(jù)增強(qiáng)的最新綜述

作為一種有效的策略，數(shù)據(jù)增強(qiáng) (data augmentation, DA) 緩解了深度學(xué)習(xí)技術(shù)可能失敗的數(shù)據(jù)稀缺情況。

2023-03-16 標(biāo)簽：計(jì)算機(jī)視覺(jué)自然語(yǔ)言處理nlp 1122 0

淺析神經(jīng)網(wǎng)絡(luò)技術(shù)之Transformer

transformer采用注意力機(jī)制，能夠識(shí)別各單詞之間的相關(guān)性，但對(duì)詞序并沒(méi)有要求。也就是說(shuō)，在它看來(lái)，我愛(ài)你、我你愛(ài)，這兩句話沒(méi)有區(qū)別。因此，需要對(duì)...

2023-03-13 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)nlp 938 0

ChatGPT語(yǔ)言模型核心技術(shù)之Transformer

Transformer的主要優(yōu)點(diǎn)是它可以并行地處理輸入序列中的所有位置，因此在訓(xùn)練和推理時(shí)都有著很好的效率。此外，Transformer沒(méi)有使用循環(huán)結(jié)構(gòu)...

2023-03-08 標(biāo)簽：TransformernlpChatGPT 1197 0

基于不同量級(jí)預(yù)訓(xùn)練數(shù)據(jù)的RoBERTa模型分析

NLP領(lǐng)域的研究目前由像RoBERTa等經(jīng)過(guò)數(shù)十億個(gè)字符的語(yǔ)料經(jīng)過(guò)預(yù)訓(xùn)練的模型匯主導(dǎo)。那么對(duì)于一個(gè)預(yù)訓(xùn)練模型，對(duì)于不同量級(jí)下的預(yù)訓(xùn)練數(shù)據(jù)能夠提取到的知識(shí)...

2023-03-03 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)nlp無(wú)監(jiān)督學(xué)習(xí) 2237 0

深入淺出Prompt Learning要旨及常用方法

第三范式：基于預(yù)訓(xùn)練模型 + finetuning 的范式，如 BERT + finetuning 的 NLP 任務(wù)，相比于第二范式，模型準(zhǔn)確度顯著提高...

2023-03-03 標(biāo)簽：數(shù)據(jù)模型nlp 1124 0

關(guān)于ChatGPT八個(gè)技術(shù)問(wèn)題的猜想

只要使用過(guò)ChatGPT，我們就會(huì)發(fā)現(xiàn)它不是一個(gè)傳統(tǒng)意義上的人機(jī)對(duì)話系統(tǒng)，實(shí)際是一個(gè)以自然語(yǔ)言為交互方式的通用語(yǔ)言處理平臺(tái)。2020年的GPT-3雖然擁...

2023-03-03 標(biāo)簽：深度學(xué)習(xí)nlpChatGPT 716 0

如何讓Transformer在征程5上跑得既快又好？以SwinT部署為例的優(yōu)化探索

摘要：SwinT是目前視覺(jué)transformer模型中的典型代表，在常見(jiàn)視覺(jué)任務(wù)，如分類、檢測(cè)、分割都有非常出色的表現(xiàn)。雖然在相同計(jì)算量的模型指標(biāo)上，S...

2023-03-03 標(biāo)簽：gpu模型Transformer 1247 0

Language Model Reasoning是什么意思？

那么，前面總是提到推理 (Reasoning) 這個(gè)詞，什么是推理？我嘗試用自己的語(yǔ)言來(lái)解釋“推理”的含義，最后發(fā)現(xiàn)我寫得還不如 ChatGPT

2023-02-28 標(biāo)簽：生成器數(shù)據(jù)集GPT 1408 0

數(shù)據(jù)科學(xué)家必會(huì)的六大NLP技術(shù)！

關(guān)鍵字提取，有時(shí)又稱之為關(guān)鍵字檢測(cè)或關(guān)鍵字分析，這是一種文本分析的 NLP 技術(shù)。這種技術(shù)的主要目的是自動(dòng)地從文本的正文中提取出現(xiàn)頻率最高的單詞與詞組。...

2023-02-27 標(biāo)簽：機(jī)器學(xué)習(xí)自然語(yǔ)言處理nlp 2085 0

Python強(qiáng)大的模式匹配工具Pampy

在自然語(yǔ)言處理界，**模式匹配**可以說(shuō)是最常用的技術(shù)。甚至可以說(shuō)，將NLP技術(shù)作為真實(shí)生產(chǎn)力的項(xiàng)目都少不了 **模式匹配** 。

2023-02-23 標(biāo)簽：技術(shù)模式匹配nlp 826 0

多維度剖析視覺(jué)-語(yǔ)言訓(xùn)練的技術(shù)路線

視覺(jué)-語(yǔ)言 (Vision-Language, VL) 是計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理這兩個(gè)研究領(lǐng)域之間形成的交叉領(lǐng)域，旨在賦予 AI 系統(tǒng)從多模態(tài)數(shù)據(jù)中學(xué)...

2023-02-23 標(biāo)簽：AI計(jì)算機(jī)視覺(jué)nlp 1329 0