CNN Terminologies: ReLU, Stride, Padding, Pooling, Convolutions, and Kernels | CNN рдХреА рдореБрдЦреНрдп рд╢рдмреНрджрд╛рд╡рд▓реА рдХрд╛ рд╡рд┐рд╕реНрддреГрдд рдЕрдзреНрдпрдпрди

CNN Terminologies: ReLU, Stride, Padding, Pooling, Convolutions, and Kernels | CNN рдХреА рдореБрдЦреНрдп рд╢рдмреНрджрд╛рд╡рд▓реА рдХрд╛ рд╡рд┐рд╕реНрддреГрдд рдЕрдзреНрдпрдпрди


CNN рдХреА рдореБрдЦреНрдп рд╢рдмреНрджрд╛рд╡рд▓реА: ReLU, Stride, Padding, Pooling, Convolutions рдФрд░ Kernels

Convolutional Neural Networks (CNN) рдбреАрдк рд▓рд░реНрдирд┐рдВрдЧ рдореЗрдВ рд╕рдмрд╕реЗ рд▓реЛрдХрдкреНрд░рд┐рдп рдореЙрдбрд▓ рд╣реИрдВ, рдФрд░ рдЗрдирдХреА рдХрд╛рд░реНрдпрдкреНрд░рдгрд╛рд▓реА рдХреЛ рд╕рдордЭрдиреЗ рдХреЗ рд▓рд┐рдП рд╣рдореЗрдВ рдЗрдирдХреЗ рдореБрдЦреНрдп рддрдХрдиреАрдХреА рд╢рдмреНрджреЛрдВ (Terminologies) рдХрд╛ рдЬреНрдЮрд╛рди рд╣реЛрдирд╛ рдЖрд╡рд╢реНрдпрдХ рд╣реИред ReLU, Stride, Padding, Pooling, Convolution рдФрд░ Kernels тАФ рдпреЗ рд╕рднреА CNN рдХреА рд░реАрдврд╝ рд╣реИрдВред рдЖрдЗрдП рдПрдХ-рдПрдХ рдХрд░рдХреЗ рдЗрдиреНрд╣реЗрдВ рд╡рд┐рд╕реНрддрд╛рд░ рд╕реЗ рд╕рдордЭрддреЗ рд╣реИрдВред

ЁЯУШ 1я╕ПтГг ReLU Activation Function

ReLU (Rectified Linear Unit) CNN рдореЗрдВ рд╕рдмрд╕реЗ рд╕рд╛рдорд╛рдиреНрдп activation function рд╣реИред рдпрд╣ non-linearity рдЬреЛрдбрд╝рддрд╛ рд╣реИ рддрд╛рдХрд┐ рдореЙрдбрд▓ рдЬрдЯрд┐рд▓ рдкреИрдЯрд░реНрди рд╕реАрдЦ рд╕рдХреЗред рдЧрдгрд┐рддреАрдп рд░реВрдк рд╕реЗ:

f(x) = max(0, x)

рдЗрд╕рдХрд╛ рдЕрд░реНрде рд╣реИ рдХрд┐ рдпрджрд┐ рдЗрдирдкреБрдЯ рдирдХрд╛рд░рд╛рддреНрдордХ рд╣реИ рддреЛ рдЖрдЙрдЯрдкреБрдЯ 0 рд╣реЛрдЧрд╛, рдФрд░ рдпрджрд┐ рд╕рдХрд╛рд░рд╛рддреНрдордХ рд╣реИ рддреЛ рд╡рд╣реА рд░рд╣реЗрдЧрд╛ред рдпрд╣ simple рд╣реЛрдиреЗ рдХреЗ рдмрд╛рд╡рдЬреВрдж рдЕрддреНрдпрдзрд┐рдХ рдкреНрд░рднрд╛рд╡реА рд╣реИ рдХреНрдпреЛрдВрдХрд┐ рдпрд╣ vanishing gradient problem рдХреЛ рдХрдо рдХрд░рддрд╛ рд╣реИред

ЁЯзй ReLU рдХреЗ рд▓рд╛рдн:

  • рдЧрдгрдирд╛ рд╕рд░рд▓ рдФрд░ рддреЗрдЬрд╝ред
  • Sparse activation рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред
  • Gradient-based training рдореЗрдВ рд╕реНрдерд┐рд░рддрд╛ рд▓рд╛рддрд╛ рд╣реИред

тЪЩя╕П 2я╕ПтГг Stride (рд╕реНрдЯреНрд░рд╛рдЗрдб)

Stride рд╡рд╣ рд╕рдВрдЦреНрдпрд╛ рд╣реИ рдЬреЛ рдпрд╣ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХрд░рддреА рд╣реИ рдХрд┐ convolution kernel рд╣рд░ рдмрд╛рд░ рдХрд┐рддрдиреЗ рдкрд┐рдХреНрд╕реЗрд▓реНрд╕ рдХреЛ тАЬрдХреВрджрддреЗ рд╣реБрдПтАЭ рдЖрдЧреЗ рдмрдврд╝реЗрдЧрд╛ред рдпрджрд┐ stride = 1 рд╣реИ, рддреЛ kernel рдПрдХ рдкрд┐рдХреНрд╕реЗрд▓ рд╕реЗ рдЖрдЧреЗ рдмрдврд╝реЗрдЧрд╛ред рдпрджрд┐ stride = 2 рд╣реИ, рддреЛ рд╣рд░ рдмрд╛рд░ рджреЛ рдкрд┐рдХреНрд╕реЗрд▓ рдЫреЛрдбрд╝ рджреЗрдЧрд╛ред

Stride рдмрдврд╝рд╛рдиреЗ рд╕реЗ output feature map рдЫреЛрдЯрд╛ рд╣реЛрддрд╛ рд╣реИ рдФрд░ computation рдХрдо рд╣реЛрддреА рд╣реИред рд╣рд╛рд▓рд╛рдБрдХрд┐, рдЗрд╕рд╕реЗ spatial detail рдШрдЯ рд╕рдХрддреА рд╣реИред

ЁЯУК рдЙрджрд╛рд╣рд░рдг:

рдпрджрд┐ рдЗрдирдкреБрдЯ 6x6 рдФрд░ kernel 3x3 рд╣реИ:

  • Stride = 1 тЖТ Output size = 4x4
  • Stride = 2 тЖТ Output size = 2x2

ЁЯУП 3я╕ПтГг Padding (рдкреИрдбрд┐рдВрдЧ)

Padding рдХрд╛ рдЙрдкрдпреЛрдЧ рддрдм рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ рдЬрдм рд╣рдо рдЪрд╛рд╣рддреЗ рд╣реИрдВ рдХрд┐ convolution рдХреЗ рдмрд╛рдж output рдХрд╛ рдЖрдХрд╛рд░ рдЗрдирдкреБрдЯ рдХреЗ рд╕рдорд╛рди рд░рд╣реЗред рдЗрд╕рдореЗрдВ рдЗрдореЗрдЬ рдХреЗ рдЪрд╛рд░реЛрдВ рдУрд░ 0 (zero values) рдЬреЛрдбрд╝реА рдЬрд╛рддреА рд╣реИрдВред

  • Valid Padding: рдХреЛрдИ padding рдирд╣реАрдВ тЖТ output рдЫреЛрдЯрд╛ рд╣реЛрддрд╛ рд╣реИред
  • Same Padding: Zero-padding рдЬреЛрдбрд╝рдХрд░ output = input sizeред

Padding CNN рдХреЛ border features рд╕реАрдЦрдиреЗ рдореЗрдВ рдорджрдж рдХрд░рддрд╛ рд╣реИред

ЁЯОп 4я╕ПтГг Pooling (рдкреВрд▓рд┐рдВрдЧ)

Pooling рд▓реЗрдпрд░ feature maps рдХреЛ рдЫреЛрдЯрд╛ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЙрдкрдпреЛрдЧ рд╣реЛрддреА рд╣реИред рдпрд╣ spatial size рдШрдЯрд╛рдХрд░ computation рдХрдо рдХрд░рддреА рд╣реИ рдФрд░ model рдХреЛ translation invariant рдмрдирд╛рддреА рд╣реИред

  • Max Pooling: рд╕рдмрд╕реЗ рдмрдбрд╝рд╛ рдорд╛рди рд░рдЦрддрд╛ рд╣реИред
  • Average Pooling: рдФрд╕рдд рдорд╛рди рд░рдЦрддрд╛ рд╣реИред

рдЙрджрд╛рд╣рд░рдг: рдпрджрд┐ 2x2 region рдореЗрдВ [3, 1, 5, 2] рд╣реИрдВ, рддреЛ Max Pooling = 5 рдФрд░ Average Pooling = 2.75 рд╣реЛрдЧрд╛ред

ЁЯзо 5я╕ПтГг Convolution Operation (рдХреЙрдиреНрд╡реЛрд▓реНрдпреВрд╢рди рдкреНрд░рдХреНрд░рд┐рдпрд╛)

Convolution CNN рдХрд╛ рд╣реГрджрдп рд╣реИред рдпрд╣ рдПрдХ filter (kernel) рдХреЛ рдЗрдирдкреБрдЯ рдЗрдореЗрдЬ рдкрд░ рд╕реНрд▓рд╛рдЗрдб рдХрд░рдХреЗ рдкреНрд░рддреНрдпреЗрдХ рдХреНрд╖реЗрддреНрд░ рдХрд╛ dot product рдирд┐рдХрд╛рд▓рддрд╛ рд╣реИред

Feature Map = Input тКЧ Kernel + Bias

рдпрд╣ рдкреНрд░рдХреНрд░рд┐рдпрд╛ рд╣рд░ рд╕реНрдерд╛рди рдкрд░ рд╕реНрдерд╛рдиреАрдп рдлреАрдЪрд░реНрд╕ (edges, corners, patterns) рдХреЛ рдкрд╣рдЪрд╛рдирдиреЗ рдореЗрдВ рдорджрдж рдХрд░рддреА рд╣реИред

ЁЯФ╣ 6я╕ПтГг Kernels / Filters (рдХрд░реНрдирд▓реНрд╕)

Kernel рдПрдХ рдЫреЛрдЯрд╛ matrix (рдЬреИрд╕реЗ 3x3 рдпрд╛ 5x5) рд╣реЛрддрд╛ рд╣реИ рдЬреЛ convolution рдХреЗ рджреМрд░рд╛рди рдЗрдореЗрдЬ рдХреЗ рд╣рд░ рднрд╛рдЧ рдкрд░ рд╕реНрд▓рд╛рдЗрдб рдХрд░рддрд╛ рд╣реИред рдкреНрд░рддреНрдпреЗрдХ kernel рдЕрд▓рдЧ-рдЕрд▓рдЧ рдлреАрдЪрд░реНрд╕ рд╕реАрдЦрддрд╛ рд╣реИ тАФ рдЬреИрд╕реЗ edge detection, color pattern, рдпрд╛ texture recognitionред

ЁЯУЧ Python Example:

from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Conv2D, MaxPooling2D, Activation

model = Sequential([
    Conv2D(32, (3,3), strides=(1,1), padding='same', input_shape=(64,64,3)),
    Activation('relu'),
    MaxPooling2D(pool_size=(2,2), strides=2)
])

ЁЯУЩ рдирд┐рд╖реНрдХрд░реНрд╖:

ReLU, Stride, Padding, Pooling, Convolutions рдФрд░ Kernels CNN рдХреА рдХрд╛рд░реНрдпрдкреНрд░рдгрд╛рд▓реА рдХреЗ рдЖрдзрд╛рд░рднреВрдд рдШрдЯрдХ рд╣реИрдВред рдЗрди рд╢рдмреНрджреЛрдВ рдХреА рд╕рдордЭ рдХреЗ рдмрд┐рдирд╛ рдХрд┐рд╕реА CNN рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдХреЛ рд╕рдордЭрдирд╛ рдЕрд╕рдВрднрд╡ рд╣реИред 2025 рдореЗрдВ, рдЖрдзреБрдирд┐рдХ CNN рдЬреИрд╕реЗ ResNet, EfficientNet рдФрд░ ConvNext рдЗрдиреНрд╣реАрдВ рдореВрд▓ рд╕рд┐рджреНрдзрд╛рдВрддреЛрдВ рдкрд░ рдЖрдзрд╛рд░рд┐рдд рд╣реИрдВ тАФ рдмрд╕ рдЗрдирдХрд╛ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдЕрдзрд┐рдХ рдХреБрд╢рд▓ рдФрд░ рдЧрд╣рд░рд╛ (deep) рд╣реЛ рдЧрдпрд╛ рд╣реИред

Related Articles

Applications of Deep Learning in Object Detection, Speech/Image Recognition, Video Analysis, NLP, and Medical Science | рдбреАрдк рд▓рд░реНрдирд┐рдВрдЧ рдХреЗ рдЕрдиреБрдкреНрд░рдпреЛрдЧ: рдСрдмреНрдЬреЗрдХреНрдЯ рдбрд┐рдЯреЗрдХреНрд╢рди, рд╕реНрдкреАрдЪ/рдЗрдореЗрдЬ рд░рд┐рдХрдЧреНрдирд┐рд╢рди, рд╡реАрдбрд┐рдпреЛ рдПрдирд╛рд▓рд┐рд╕рд┐рд╕, рдПрдирдПрд▓рдкреА рдФрд░ рдореЗрдбрд┐рдХрд▓ рд╕рд╛рдЗрдВрд╕

рдбреАрдк рд▓рд░реНрдирд┐рдВрдЧ рдХреЗ рдЕрдиреБрдкреНрд░рдпреЛрдЧ: рдСрдмреНрдЬреЗр...

Read More тЖТ

Generative Adversarial Networks (GANs): Concept, Architecture, and Applications | рдЬреЗрдирд░реЗрдЯрд┐рд╡ рдПрдбрд╡рд░реНрд╕реЗрд░рд┐рдпрд▓ рдиреЗрдЯрд╡рд░реНрдХ (GAN): рдЕрд╡рдзрд╛рд░рдгрд╛, рд╕рдВрд░рдЪрдирд╛ рдФрд░ рдЕрдиреБрдкреНрд░рдпреЛрдЧ

рдЬреЗрдирд░реЗрдЯрд┐рд╡ рдПрдбрд╡рд░реНрд╕реЗрд░рд┐рдпрд▓ рдиреЗрдЯрд╡рд░реНрдХ (GA...

Read More тЖТ

Auto-Regressive Models (NADE, MADE, PixelRNN): Concept, Architecture, and Deep Learning Applications | рдСрдЯреЛ-рд░реЗрдЧреНрд░реЗрд╕рд┐рд╡ рдореЙрдбрд▓реНрд╕ (NADE, MADE, PixelRNN): рдЕрд╡рдзрд╛рд░рдгрд╛, рд╕рдВрд░рдЪрдирд╛ рдФрд░ рдбреАрдк рд▓рд░реНрдирд┐рдВрдЧ рдореЗрдВ рдЕрдиреБрдкреНрд░рдпреЛрдЧ

рдСрдЯреЛ-рд░реЗрдЧреНрд░реЗрд╕рд┐рд╡ рдореЙрдбрд▓реНрд╕ (NADE, MADE, PixelRNN): рдЕ...

Read More тЖТ

Markov Chains: Concept, Transition Matrices, and Applications in Deep Learning | рдорд╛рд░реНрдХреЛрд╡ рдЪреЗрди: рдЕрд╡рдзрд╛рд░рдгрд╛, рдЯреНрд░рд╛рдВрдЬрд┐рд╢рди рдореИрдЯреНрд░рд┐рдХреНрд╕ рдФрд░ рдбреАрдк рд▓рд░реНрдирд┐рдВрдЧ рдореЗрдВ рдЕрдиреБрдкреНрд░рдпреЛрдЧ

рдорд╛рд░реНрдХреЛрд╡ рдЪреЗрди: рдЕрд╡рдзрд╛рд░рдгрд╛, рдЯреНрд░рд╛рдВрдЬрд┐рд╢рди ...

Read More тЖТ

Markov Networks (Markov Random Fields): Concept, Structure, and Applications | рдорд╛рд░реНрдХреЛрд╡ рдиреЗрдЯрд╡рд░реНрдХ (Markov Networks): рдЕрд╡рдзрд╛рд░рдгрд╛, рд╕рдВрд░рдЪрдирд╛ рдФрд░ рдЕрдиреБрдкреНрд░рдпреЛрдЧ

рдорд╛рд░реНрдХреЛрд╡ рдиреЗрдЯрд╡рд░реНрдХ (Markov Random Fields): рдЕрд╡рдзрд╛рд░р...

Read More тЖТ