labml.ai විනෝටේටඩ් පයිටෝච් කඩදාසි ක්රියාත්මක කිරීම්
මෙයස්නායුක ජාල සහ අදාළ ඇල්ගොරිතම සරල PyTorch ක්රියාත්මක කිරීමේ එකතුවකි. මෙම ක්රියාත්මක කිරීම් පැහැදිලි කිරීම් සමඟ ලේඛනගත කර ඇති අතර වෙබ් අඩවිය මේවා පැති විසින්-ආකෘතිගත සටහන් ලෙස ඉදිරිපත් කරයි. මෙම ඇල්ගොරිතම වඩා හොඳින් තේරුම් ගැනීමට මේවා ඔබට උපකාරී වනු ඇතැයි අපි විශ්වාස කරමු.
අපිමෙම අළුත්වැඩියා කිරීම සක්රියව පවත්වා ගෙන යන අතර නව ක්රියාත්මක කිරීම් එකතු කරමු. 
කඩදාසික්රියාත්මක කිරීම්
✨ ට්රාන්ස්ෆෝමර්
- බහු ශීර්ෂ අවධානය
- ට්රාන්ස්ෆෝමර් ගොඩනැගිලි කොටස්
- ට්රාන්ස්ෆෝමර් 40
- සාපේක්ෂ බහු-ශීර්ෂ අවධානය
- රොටරි ස්ථානීය කාවැද්දීම් (කඹය)
- රේඛීය පක්ෂග්රාහී (අලිබී) සමඟ අවධානය යොමු කරන්න
- රෙට්රො
- සම්පීඩ්යතා ට්රාන්ස්ෆෝමර්
- Gpt ගෘහ නිර්මාණ ශිල්පය
- GLU ප්රභේද
- KNN-LM: කටපාඩම් කිරීම තුළින් සාමාන්යකරණය
- ප්රතිපෝෂණ ට්රාන්ස්ෆෝමර්
- ට්රාන්ස්ෆෝමර් ස්විචය
- වේගවත් බර ට්රාන්ස්ෆෝමර්
- FNet
- අවධානය නිදහස් ට්රාන්ස්ෆෝමර්
- වෙස් භාෂා ආකෘතිය
- එම්එල්පී-මික්සර්: දැක්ම සඳහා සර්ව එම්එල්පී ගෘහ නිර්මාණ ශිල්පයක්
- MLPs (GMLP) වෙත අවධානය යොමු කරන්න
- දර්ශන ට්රාන්ස්ෆෝමර් (VIT)
- ප්රයිමර් EZ
- Hourglass
✨ පුනරාවර්තන අධිවේගී මාර්ග ජාල
✨ LSTM
✨ හයිපර්නෙට්වර්ක්ස් - හයිපර්එල්එස්එම්
✨ රෙස්නෙට්
✨ කොන්වී මික්සර්
✨ කැප්සියුල ජාල
✨ යූ-නෙට්
✨ උත්පාදක අහිතකර ජාල
- මුල් GAN
- ගැඹුරු සංවහන ජාලයක් සහිත GAN
- චක්රය GAN
- වොසර්ස්ටයින් GAN
- ග්රේඩියන්ට් දඬුවම සමඟ වොසර්ස්ටයින් GAN
- Styleගන් 2
✨ විසරණ ආකෘති
✨ කටු සටහනක් RNN
✨ප්රස්තාරය ස්නායුක ජාල
✨ ප්රතිවිරුද්ධ කනගාටුව අවම කිරීම (CFR)
CFRසමඟ පෝකර් වැනි අසම්පූර්ණ තොරතුරු සහිත ක්රීඩා විසඳීම.
✨ ආරකෂාවට ඉගෙනුම්
- සාමාන්යකරණය කළ වාසි ඇස්තමේන්තුව සමඟ ප්රොක්සිමල් ප්රතිපත්ති ප්රශස්තිකරණය
- ඩලිං නෙට්වර්ක්, ප්රමුඛතා නැවත ධාවනය සහ ද්විත්ව Q ජාලය සමඟ ගැඹුරු Q ජාල.
✨ ප්රශස්තකරණය
- ආදම්
- AMSGrad
- උණුසුම් කිරීම සමඟ ආදම් ප්රශස්තකරණය
- නව ප්රශස්තකරණය
- නිවැරදි කරන ලද ආදම් ප්රශස්තකරණය
- ADABelief ප්රශස්තකරණය
✨ සාමාන්යකරණය ස්ථර
- කණ්ඩායම් සාමාන්යකරණය
- ස්ථරය සාමාන්යකරණය
- උදාහරණයක් සාමාන්යකරණය
- කණ්ඩායම් සාමාන්යකරණය
- බර ප්රමිතිකරණය
- කණ්ඩායම-නාලිකා සාමාන්යකරණය
- ගැඹුරු සම්මතය
✨ ආසවනය
✨ අනුවර්තී ගණනය
✨ අවිනිශ්චිතතාව
✨ සක්රීය කිරීම්
✨ නියැදි ක්රම
✨ ජීපීටී-නියෝක්ස් එලියුටර්
✨ පරිමාණ කළ හැකි පුහුණුව/අනුමානය
උද්දීපනයකරන ලද පර්යේෂණ පත්රිකාව PDFs
- Autoregressive Search Engines: Generating Substrings as Document Identifiers
- Training Compute-Optimal Large Language Models
- ZeRO: Memory Optimizations Toward Training Trillion Parameter Models
- PaLM: Scaling Language Modeling with Pathways
- Hierarchical Text-Conditional Image Generation with CLIP Latents
- STaR: Self-Taught Reasoner Bootstrapping Reasoning With Reasoning
- Improving language models by retrieving from trillions of tokens
- NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis
- Attention Is All You Need
- Denoising Diffusion Probabilistic Models
- Primer: Searching for Efficient Transformers for Language Modeling
- On First-Order Meta-Learning Algorithms
- Learning Transferable Visual Models From Natural Language Supervision
- The Sensory Neuron as a Transformer: Permutation-Invariant Neural Networks for Reinforcement Learning
- Meta-Gradient Reinforcement Learning
- ETA Prediction with Graph Neural Networks in Google Maps
- PonderNet: Learning to Ponder
- Mastering Atari, Go, Chess and Shogi by Planning with a Learned Model
- GANs N’ Roses: Stable, Controllable, Diverse Image to Image Translation (works for videos too!)
- An Image is Worth 16X16 Word: Transformers for Image Recognition at Scale
- Deep Residual Learning for Image Recognition
- Distilling the Knowledge in a Neural Network
ස්ථාපනය
pip install labml-nnලැබ්එම්එල්උපුටා දක්වමින්
ඔබමෙය අධ්යයන පර්යේෂණ සඳහා භාවිතා කරන්නේ නම්, කරුණාකර පහත සඳහන් බයිටෙක්ස් ප්රවේශය භාවිතා කර එය උපුටා දක්වන්න.
@misc{labml,
author = {Varuna Jayasiri, Nipun Wijerathne},
title = {labml.ai Annotated Paper Implementations},
year = {2020},
url = {},
}