Mạng thần kinh tích chập

Mạng thần kinh nhân tạoBản mẫu:SHORTDESC:Mạng thần kinh nhân tạo

Học máy và khai phá dữ liệu
Một phần của loạt bài về

Các vấn đề Phân loại Phân cụm Hồi quy Xác định bất thường AutoML Quy tắc kết hợp Học tăng cường Dự đoán cấu trúc Học đặc trưng Học máy online Học nửa giám sát Học không có giám sát Học xếp hạng Grammar induction
Học có giám sát (Phân loại bằng thống kê • Phân tích hồi quy) Học cây quyết định Học tập thể Bagging Boosting Rừng ngẫu nhiên k-NN Hồi quy tuyến tính Bộ phân loại Bayes đơn giản Mạng thần kinh nhân tạo Hồi quy logistic Perceptron Máy vectơ tương quan (RVM) Máy vectơ hỗ trợ (SVM)
Phân cụm BIRCH CURE Thứ bậc k-means Thuật toán cực đại hóa kỳ vọng (EM) DBSCAN OPTICS Dịch chuyển trung bình
Giảm chiều dữ liệu Phân tích nhân tố CCA ICA LDA NMF PCA PGD t-SNE
Dự đoán cấu trúc Mô hình xác suất dạng đồ thị Mạng Bayes Trường điều kiện ngẫu nhiên Mô hình Markov ẩn
Phát hiện bất thường k-NN Nhân tố ngoại lai cục bộ
Mạng thần kinh nhân tạo Bộ tự mã hóa Điện toán nhận thức Học sâu DeepDream Perceptron đa lớp Mạng thần kinh hồi quy LTSM GRU ESN Máy Boltzmann giới hạn GAN SOM Mạng thần kinh tích chập U-Net Transformer Mạng thần kinh dạng xung Memtransistor RAM điện hóa (ECRAM)
Học tăng cường Q-learning (học tăng cường) SARSA Chênh lệch thời gian (TD)
Lý thuyết Cân bằng độ lệch-phương sai Lý thuyết học tập tính toán Giảm thiểu rủi ro bằng kinh nghiệm Học Occam Học PAC Lý thuyết học thống kê Lý thuyết VC
Diễn đàn/tạp chí NeurIPS ICML ML JMLR ArXiv:cs.LG
Bài viết liên quan Danh sách các bộ dữ liệu cho nghiên cứu học máy Danh sách các khái niệm học máy Thuật ngữ trí tuệ nhân tạo
x t s

Trong học sâu, một mạng thần kinh tích chập (còn gọi là mạng nơ-ron tích chập hay ít phổ biến hơn là mạng thần kinh/nơ-ron chuyển đổi, tiếng Anh: convolutional neural network, viết tắt CNN hay ConvNet) là một lớp của mạng thần kinh sâu (deep neural network), áp dụng phổ biến nhất để phân tích hình ảnh trực quan.^[1] Mạng còn được gọi là shift invariant (dịch chuyển bất biến) hay mạng thần kinh nhân tạo không gian bất biến (SIANN), dựa trên kiến trúc trọng số được chia sẻ và các đặc tính đối xứng tịnh tiến (translational symmetry).^[2]^[3] CNN có nhiều ứng dụng trong thị giác máy tính, hệ thống gợi ý,^[4] phân loại hình ảnh, tính toán hình ảnh y tế (điện toán hình ảnh y tế), xử lý ngôn ngữ tự nhiên,^[5] và chuỗi thời gian tài chính.^[6]

Xem thêm

Attention (học máy)
Tích chập
Học sâu
Xử lý ngôn ngữ tự nhiên
Neocognitron
Scale-invariant feature transform
Time delay neural network
Vision processing unit

Tham khảo

^ Valueva, M.V.; Nagornov, N.N.; Lyakhov, P.A.; Valuev, G.V.; Chervyakov, N.I. (2020). “Application of the residue number system to reduce hardware costs of the convolutional neural network implementation”. Mathematics and Computers in Simulation. Elsevier BV. 177: 232–243. doi:10.1016/j.matcom.2020.04.031. ISSN 0378-4754. Convolutional neural networks are a promising tool for solving the problem of pattern recognition.
^ Zhang, Wei (1988). “Shift-invariant pattern recognition neural network and its optical architecture”. Proceedings of Annual Conference of the Japan Society of Applied Physics.
^ Zhang, Wei (1990). “Parallel distributed processing model with local space-invariant interconnections and its optical architecture”. Applied Optics. 29 (32): 4790–7. Bibcode:1990ApOpt..29.4790Z. doi:10.1364/AO.29.004790. PMID 20577468.
^ van den Oord, Aaron; Dieleman, Sander; Schrauwen, Benjamin (ngày 1 tháng 1 năm 2013). Burges, C. J. C.; Bottou, L.; Welling, M.; Ghahramani, Z.; Weinberger, K. Q. (biên tập). Deep content-based music recommendation (PDF). Curran Associates, Inc. tr. 2643–2651.
^ Collobert, Ronan; Weston, Jason (ngày 1 tháng 1 năm 2008). A Unified Architecture for Natural Language Processing: Deep Neural Networks with Multitask Learning. Proceedings of the 25th International Conference on Machine Learning. ICML '08. New York, NY, USA: ACM. tr. 160–167.
^ Tsantekidis, Avraam; Passalis, Nikolaos; Tefas, Anastasios; Kanniainen, Juho; Gabbouj, Moncef; Iosifidis, Alexandros (tháng 7 năm 2017). “Forecasting Stock Prices from the Limit Order Book Using Convolutional Neural Networks”. 2017 IEEE 19th Conference on Business Informatics (CBI). Thessaloniki, Greece: IEEE: 7–12.

Liên kết ngoài

CS231n: Convolutional Neural Networks for Visual Recognition — Andrej Karpathy's Đại học Stanford computer science course on CNNs in computer vision
An Intuitive Explanation of Convolutional Neural Networks — A beginner level introduction to what Convolutional Neural Networks are and how they work
Convolutional Neural Networks for Image Classification Lưu trữ 2018-01-21 tại Wayback Machine — Literature Survey

Điện toán khả vi

Chung

Lập trình khả vi
Neural Turing machine
Differentiable neural computer
Automatic differentiation
Neuromorphic engineering

Khái niệm

Suy giảm độ dốc
Cable theory
Phân nhóm dữ liệu
Phân tích hồi quy
Nhận dạng mẫu
Adversarial machine learning
Computational learning theory

Ngôn ngữ lập trình

Python (ngôn ngữ lập trình)
Julia (programming language)

Ứng dụng

Phần cứng

Tensor Processing Unit
Vision processing unit
Memristor
SpiNNaker

Thư viện phần mềm

Thực thi

Nghe-nhìn	AlexNet WaveNet Human image synthesis Handwriting recognition Nhận dạng ký tự quang học Tổng hợp giọng nói Nhận dạng tiếng nói Hệ thống nhận dạng khuôn mặt
Lời nói	Word2vec Transformer (machine learning model) BERT (mô hình ngôn ngữ) Dịch máy bằng nơ-ron Project Debater Watson (phần mềm trí tuệ nhân tạo) GPT-3
Quyết định	AlphaGo Q-learning (học tăng cường) State–action–reward–state–action OpenAI Five