โจทย์
โครงข่ายประสาทเทียมขนาดเล็กมี เลเยอร์ซ่อน และ เลเยอร์เอาต์พุต ข้อมูลไหลผ่านทั้งสองตามลำดับ:
- เลเยอร์ซ่อน: h_j = ReLU(inputs · hidden_weights[j] + hidden_biases[j]) โดย ReLU(z) = max(0, z)
- เลเยอร์เอาต์พุต: y_k = sigmoid(h · output_weights[k] + output_biases[k]) โดย sigmoid(z) = 1 / (1 + e^(-z))
จงเขียน forward_pass(inputs, hidden_weights, hidden_biases, output_weights, output_biases)
อินพุต
inputs: ค่าอินพุต n ค่า
hidden_weights, hidden_biases: เลเยอร์ซ่อน หนึ่งแถวและไบแอสหนึ่งค่าต่อนิวรอนซ่อนหนึ่งตัว
output_weights, output_biases: เลเยอร์เอาต์พุต หนึ่งแถวและไบแอสหนึ่งค่าต่อเอาต์พุตหนึ่งตัว แต่ละแถวมีน้ำหนักหนึ่งค่าต่อนิวรอนซ่อนหนึ่งตัว
เอาต์พุต
คืนค่าลิสต์เอาต์พุต y ของโครงข่าย
เงื่อนไข
1 ≤ จำนวนอินพุต นิวรอนซ่อน และเอาต์พุต ≤ 50
-10 ≤ แต่ละค่า ≤ 10
ตัวอย่าง
อินพุต:
inputs = [1.0, 0.5]
hidden_biases = [0.0, 0.5]
output_biases = [0.0]
hidden_weights = [
[1.0, -2.0],
[0.5, 1.0]
]
output_weights = [
[1.0, -1.0]
]
ผลลัพธ์ที่คาดหวัง:
expected = [0.182426]อินพุต:
std::vector<double> inputs = {1.0, 0.5};
std::vector<double> hidden_biases = {0.0, 0.5};
std::vector<double> output_biases = {0.0};
std::vector<std::vector<double>> hidden_weights = {
{1.0, -2.0},
{0.5, 1.0}
};
std::vector<std::vector<double>> output_weights = {
{1.0, -1.0}
};
ผลลัพธ์ที่คาดหวัง:
std::vector<double> expected = {0.182426};อินพุต:
double[] inputs = new double[] {1.0, 0.5};
double[] hidden_biases = new double[] {0.0, 0.5};
double[] output_biases = new double[] {0.0};
double[][] hidden_weights = new double[][] {
new double[] {1.0, -2.0},
new double[] {0.5, 1.0}
};
double[][] output_weights = new double[][] {
new double[] {1.0, -1.0}
};
ผลลัพธ์ที่คาดหวัง:
double[] expected = new double[] {0.182426};คำอธิบาย
เลเยอร์ซ่อน: ReLU(1×1 + 0.5×(-2) + 0) = ReLU(0) = 0 และ ReLU(1×0.5 + 0.5×1 + 0.5) = 1.5 เอาต์พุต: sigmoid(0×1 + 1.5×(-1) + 0) = sigmoid(-1.5) ≈ 0.182426
อินพุต:
inputs = [2.0]
hidden_biases = [0.0, 0.0]
output_biases = [-1.0, 0.0]
hidden_weights = [
[1.0],
[-1.0]
]
output_weights = [
[0.5, 0.5],
[-0.5, 2.0]
]
ผลลัพธ์ที่คาดหวัง:
expected = [0.5, 0.268941]อินพุต:
std::vector<double> inputs = {2.0};
std::vector<double> hidden_biases = {0.0, 0.0};
std::vector<double> output_biases = {-1.0, 0.0};
std::vector<std::vector<double>> hidden_weights = {
{1.0},
{-1.0}
};
std::vector<std::vector<double>> output_weights = {
{0.5, 0.5},
{-0.5, 2.0}
};
ผลลัพธ์ที่คาดหวัง:
std::vector<double> expected = {0.5, 0.268941};อินพุต:
double[] inputs = new double[] {2.0};
double[] hidden_biases = new double[] {0.0, 0.0};
double[] output_biases = new double[] {-1.0, 0.0};
double[][] hidden_weights = new double[][] {
new double[] {1.0},
new double[] {-1.0}
};
double[][] output_weights = new double[][] {
new double[] {0.5, 0.5},
new double[] {-0.5, 2.0}
};
ผลลัพธ์ที่คาดหวัง:
double[] expected = new double[] {0.5, 0.268941};คำอธิบาย
เลเยอร์ซ่อน: ReLU(2) = 2 และ ReLU(-2) = 0 เอาต์พุต 1: sigmoid(2×0.5 + 0 - 1) = sigmoid(0) = 0.5 เอาต์พุต 2: sigmoid(2×(-0.5) + 0) = sigmoid(-1) ≈ 0.268941
แนวทางการแก้
ลองทำเองก่อน แล้วค่อยเปิดคำใบ้ทีละข้อ
คำใบ้ 1
คำนวณ hidden activations จาก inputs ก่อน แล้วค่อยใช้ hidden outputs นั้นสำหรับชั้นสุดท้าย
คำใบ้ 2
แต่ละชั้นคือ dot product หลายชุดบวก bias โดยใช้ ReLU ใน hidden layer และ sigmoid ที่ output
คำใบ้ 3
อย่าเอา input เดิมไปปนกับชั้นที่สอง เพราะมันมองเห็นแค่ output ของ hidden layer เท่านั้น
ความซับซ้อนที่คาดหวัง
เวลา O(hn + oh), หน่วยความจำเพิ่ม O(h + o)
แหล่งอ้างอิง
โจทย์นี้ปรับให้เหมาะกับ CodeUtility กรุณาทำตามคำชี้แจงและข้อจำกัดด้านบน