โจทย์
เลเยอร์แบบ dense คือกลุ่มนิวรอนที่ได้รับอินพุตชุดเดียวกันทั้งหมด นิวรอน j มีน้ำหนักของตัวเอง weights[j] และไบแอสของตัวเอง biases[j]:
z_j = inputs · weights[j] + biases[j]
จากนั้นใช้ฟังก์ชันกระตุ้นของเลเยอร์กับ z_j แต่ละตัว:
"linear": คืนค่า z_j ตามเดิม"relu": max(0, z_j)"sigmoid": 1 / (1 + e^(-z_j))
จงเขียน dense_forward(inputs, weights, biases, activation)
อินพุต
inputs: ค่าอินพุต n ค่า
weights: หนึ่งแถวต่อนิวรอน แต่ละแถวมีน้ำหนัก n ค่า
biases: ไบแอสหนึ่งค่าต่อนิวรอน
activation: "linear", "relu" หรือ "sigmoid"
เอาต์พุต
คืนค่าลิสต์ของเอาต์พุต หนึ่งค่าต่อนิวรอน ตามลำดับ
เงื่อนไข
1 ≤ n ≤ 100, 1 ≤ จำนวนนิวรอน ≤ 100
-10 ≤ แต่ละค่า ≤ 10
ตัวอย่าง
อินพุต:
biases = [0.0, -1.0]
inputs = [1.0, 2.0]
weights = [
[0.5, -1.0],
[1.5, 0.5]
]
activation = "relu"
ผลลัพธ์ที่คาดหวัง:
expected = [0.0, 1.5]อินพุต:
std::vector<double> biases = {0.0, -1.0};
std::vector<double> inputs = {1.0, 2.0};
std::vector<std::vector<double>> weights = {
{0.5, -1.0},
{1.5, 0.5}
};
std::string activation = "relu";
ผลลัพธ์ที่คาดหวัง:
std::vector<double> expected = {0.0, 1.5};อินพุต:
double[] biases = new double[] {0.0, -1.0};
double[] inputs = new double[] {1.0, 2.0};
double[][] weights = new double[][] {
new double[] {0.5, -1.0},
new double[] {1.5, 0.5}
};
string activation = "relu";
ผลลัพธ์ที่คาดหวัง:
double[] expected = new double[] {0.0, 1.5};คำอธิบาย
นิวรอน 1: 1×0.5 + 2×(-1) + 0 = -1.5 และ ReLU ให้ 0 นิวรอน 2: 1×1.5 + 2×0.5 - 1 = 1.5 ซึ่ง ReLU เก็บไว้ ผลลัพธ์: [0, 1.5]
อินพุต:
biases = [1.0, 0.0, -1.5]
inputs = [3.0]
weights = [
[2.0],
[-1.0],
[0.5]
]
activation = "linear"
ผลลัพธ์ที่คาดหวัง:
expected = [7.0, -3.0, 0.0]อินพุต:
std::vector<double> biases = {1.0, 0.0, -1.5};
std::vector<double> inputs = {3.0};
std::vector<std::vector<double>> weights = {
{2.0},
{-1.0},
{0.5}
};
std::string activation = "linear";
ผลลัพธ์ที่คาดหวัง:
std::vector<double> expected = {7.0, -3.0, 0.0};อินพุต:
double[] biases = new double[] {1.0, 0.0, -1.5};
double[] inputs = new double[] {3.0};
double[][] weights = new double[][] {
new double[] {2.0},
new double[] {-1.0},
new double[] {0.5}
};
string activation = "linear";
ผลลัพธ์ที่คาดหวัง:
double[] expected = new double[] {7.0, -3.0, 0.0};คำอธิบาย
เมื่อใช้ฟังก์ชันกระตุ้นแบบเชิงเส้น เอาต์พุตก็คือ 3×2 + 1 = 7, 3×(-1) + 0 = -3 และ 3×0.5 - 1.5 = 0
แนวทางการแก้
ลองทำเองก่อน แล้วค่อยเปิดคำใบ้ทีละข้อ
คำใบ้ 1
มองแต่ละ neuron แยกกัน: แต่ละตัวมี weight row และ bias ของตัวเอง
คำใบ้ 2
คำนวณ dot product ของ neuron แต่ละตัวกับ input vector แล้วบวก bias จากนั้นค่อยใช้ activation ที่เลือก
คำใบ้ 3
อย่าลืมว่า activation ต้องใช้หลังขั้นเชิงเส้น และรักษาลำดับ neuron ใน output ไว้
ความซับซ้อนที่คาดหวัง
เวลา O(mn), หน่วยความจำเพิ่ม O(m)
แหล่งอ้างอิง
โจทย์นี้ปรับให้เหมาะกับ CodeUtility กรุณาทำตามคำชี้แจงและข้อจำกัดด้านบน