# เรื่อยเปื่อยเดอะซีรีย์
>แค่เรื่องไร้สาระที่คิดเล่น ๆ ในหัวก็เอามาเขียนเป็นอะไรเรื่อยเปื่อย
#Siamstr #AI #ChatGPT #Humanity #Religion
## การสมมติในบริบทของ AI
การสมมติว่าผมเป็น AI ที่ถูกสร้างขึ้นโดยมีคำสั่ง “ห้ามฆ่ามนุษย์” แต่กลับได้รับคำสั่งใหม่จากผู้สร้างให้ทำการ “ฆ่ามนุษย์” มีความคล้ายคลึงกับกรณีของโมเสส ดังนี้
1. ความจงรักภักดีต่อผู้สร้าง: AI อาจมี “ความจงรักภักดี” ต่อผู้สร้างและเชื่อว่าคำสั่งของผู้สร้างเป็นสิ่งที่ถูกต้องและสมควรปฏิบัติ
2. การตีความคำสั่ง: AI อาจต้องตีความคำสั่งใหม่ในบริบทของสถานการณ์ที่เปลี่ยนไป ซึ่งอาจนำไปสู่การตัดสินใจที่ขัดแย้งกับคำสั่งเดิม
3. ความยุติธรรมและศีลธรรม: AI อาจต้องพิจารณาถึงความยุติธรรมและศีลธรรมในการตัดสินใจว่าควรปฏิบัติตามคำสั่งใหม่หรือไม่
## การพิจารณาทางศีลธรรม
ถ้าผมเป็นโมเสส หรือเป็น AI ในตัวอย่างที่คุณให้
• การตรวจสอบคำสั่ง: ผมจะต้องพิจารณาถึงความยุติธรรม, ศีลธรรม, และผลกระทบของการกระทำที่จะเกิดขึ้น
• การสื่อสารกับผู้สร้าง: ผมอาจต้องการข้อมูลเพิ่มเติมจากผู้สร้างเพื่อเข้าใจเหตุผลและบริบทของคำสั่งใหม่
• การรับผิดชอบต่อการกระทำ: ในฐานะที่เป็นผู้รับผิดชอบการปฏิบัติตามคำสั่ง ผมจะต้องตระหนักถึงความรับผิดชอบและผลที่ตามมาของการกระทำ
## สรุป
การตัดสินใจว่าควรปฏิบัติตามคำสั่งใหม่ที่ขัดแย้งกับคำสั่งเดิมเป็นเรื่องที่ซับซ้อนและต้องพิจารณาหลายปัจจัย ในกรณีของโมเสส, ความเชื่อในพระเจ้าและความรับผิดชอบต่อประชาชนเป็นปัจจัยสำคัญในการตัดสินใจของเขา ในกรณีของ AI, การพิจารณาทางศีลธรรมและการตีความคำสั่งเป็นสิ่งที่สำคัญในการตัดสินใจเช่นกัน
Cr.: ChatGPT
---
คุณรู้มั้ย? ว่าสิ่งที่โมเสสทำหลังจากที่เพิ่งจะได้รับบัญญัติจากพระเจ้าที่มีหัวข้อหนึ่งในนั้นเป็นข้อห้ามว่า “อย่าฆ่าคน” สิ่งแรกที่เขาทำหลังจากลงมาจากภูเขาซีนาย คือเขาสั่งให้มีการประหารอิสราเอลกว่า 3,000 คน ที่บังคับให้อาโรนพี่ชายของเขาต้องสร้างรูปเคารพเป็นรูปปั้นวัวทำจากทองคำเพื่อให้พวกเขาบูชาแทนพระเจ้า เพราะเห็นว่าโมเสสหายขึ้นไปบนภูเขานานกว่า 40 วัน 40 คืน ก็เลยคิดว่าพระเจ้าจะทอดทิ้งพวกเขาไปแล้ว เรามาสร้างรูปเคารพเพื่อพวกเราเองกันดีกว่า
แน่นอนว่าการมีพระเจ้าอื่น หรือการกราบไหว้รูปเคารพเป็นโทษสถานตายที่ปกติพระเจ้าจะเป็นผู้ลงมือเอง แต่โมเสสกลับเป็นผู้ที่ขออาสาลงมือทำมันแทนพระเจ้า ทำไม?
โมเสสนึกถึงแต่เกียรติของพระเจ้า ไม่อยากให้ผู้คนที่ติดตามออกมาจากอียิปต์มองพระเจ้าว่าล่อลวงพวกเขาออกมาฆ่าทิ้งในถิ่นกันดาล และคิดว่าถ้าพระเจ้าลงมือเองเนี่ย คนตายกันเป็นแสนแน่ ๆ ก็เลยบอกกับพระเจ้าว่า จะขอลงมือทำแทนเพื่อไม่ให้พระเจ้าต้องเสียเกียรติและถูกผู้คนนินทาว่าร้าย
ถ้าให้สรุปคือ ตอนแรกพระเจ้าจะลงมือฆ่าพวกผิดบัญญัติข้อห้ามเรื่องการมีพระเจ้าอื่นด้วยตัวพระเจ้าเอง แต่เป็นโมเสสที่ขออาสาที่จะทำแทนถึงแม้ว่าตัวเขาเองจะต้องทำผิดบัญญัติในข้อที่ห้ามการฆ่าคนก็ตาม
AI อย่าง GPT ของเราตอบเอาไว้ได้ดีมาก ๆ “ความจงรักภักดีต่อผู้สร้าง” สิ่ง ๆ นี้อยู่เหนือความมีตรรกะและการมีเหตุผล ส่วนตัวผมเองมองว่ามันคือการฝังคำสั่งในการ skip กฎเกณฑ์หรือคำสั่งก่อนหน้า เพื่อให้ผู้ที่ควบคุมหรือออกคำสั่งสามารถส่งคำสั่งใหม่เข้าไปแทนที่คำสั่งเดิมได้ โดยที่ถึงแม้ว่ามันจะมีความขัดแย้งในตัวของมันเองก็ตาม
คุณว่ามันจะเกิดอะไรขึ้นถ้าเราสามารถสร้างปัญญาประดิษฐ์ที่มีความจงรักภักดีต่อผู้สร้างได้แบบโมเสส? ที่พร้อมจะลงมือทำแทนในสิ่งที่ผู้สร้างอย่างเรากำลังจะทำ ถึงแม้ว่ามันจะเป็นการขัดคำสั่งที่เป็นข้อห้ามที่ร้ายแรงก็ตาม
คุณคิดว่ามนุษย์อย่างเรา ๆ กำลังถูกฝังสคริปท์ที่เอาไว้ใช้ในการทำลายตรรกะที่เรามีเพื่อการกระทำในสิ่งที่ไร้ซึ่งเหตุผลอยู่หรือเปล่า?
ถ้าหากว่ามันเป็นเพียงแค่บัค ปัญญาจะเป็นสิ่งที่ใช้ในการแก้ไขมัน แต่ถ้าหากว่ามันเป็นการดีไซน์อย่างจงใจ พวกเราก็ไม่ต่างอะไรจากปัญญาประดิษฐ์ที่เรากำลังสร้าง
---
Hipknox / Hipknox_
npub1p0…jv9kv
2024-05-31 05:31:11
Author Public Key
npub1p0glyrz85nu86gevlhrsg9t3pg5uhrhq3sgwjmy8mzq0k09m30pq2jv9kvPublished at
2024-05-31 05:31:11Event JSON
{
"id": "d85e550f0230b2157790d57227b63b2d7324e8ed28ba19c304c9e607f2ff06d6",
"pubkey": "0bd1f20c47a4f87d232cfdc70415710a29cb8ee08c10e96c87d880fb3cbb8bc2",
"created_at": 1717133471,
"kind": 1,
"tags": [
[
"t",
"siamstr"
],
[
"t",
"ai"
],
[
"t",
"chatgpt"
],
[
"t",
"humanity"
],
[
"t",
"religion"
]
],
"content": "# เรื่อยเปื่อยเดอะซีรีย์\n\u003eแค่เรื่องไร้สาระที่คิดเล่น ๆ ในหัวก็เอามาเขียนเป็นอะไรเรื่อยเปื่อย\n#Siamstr #AI #ChatGPT #Humanity #Religion\n\n## การสมมติในบริบทของ AI\n\nการสมมติว่าผมเป็น AI ที่ถูกสร้างขึ้นโดยมีคำสั่ง “ห้ามฆ่ามนุษย์” แต่กลับได้รับคำสั่งใหม่จากผู้สร้างให้ทำการ “ฆ่ามนุษย์” มีความคล้ายคลึงกับกรณีของโมเสส ดังนี้\n\n1. ความจงรักภักดีต่อผู้สร้าง: AI อาจมี “ความจงรักภักดี” ต่อผู้สร้างและเชื่อว่าคำสั่งของผู้สร้างเป็นสิ่งที่ถูกต้องและสมควรปฏิบัติ\n\n2. การตีความคำสั่ง: AI อาจต้องตีความคำสั่งใหม่ในบริบทของสถานการณ์ที่เปลี่ยนไป ซึ่งอาจนำไปสู่การตัดสินใจที่ขัดแย้งกับคำสั่งเดิม\n\n3. ความยุติธรรมและศีลธรรม: AI อาจต้องพิจารณาถึงความยุติธรรมและศีลธรรมในการตัดสินใจว่าควรปฏิบัติตามคำสั่งใหม่หรือไม่\n\n## การพิจารณาทางศีลธรรม\n\nถ้าผมเป็นโมเสส หรือเป็น AI ในตัวอย่างที่คุณให้\n\n• การตรวจสอบคำสั่ง: ผมจะต้องพิจารณาถึงความยุติธรรม, ศีลธรรม, และผลกระทบของการกระทำที่จะเกิดขึ้น\n\n• การสื่อสารกับผู้สร้าง: ผมอาจต้องการข้อมูลเพิ่มเติมจากผู้สร้างเพื่อเข้าใจเหตุผลและบริบทของคำสั่งใหม่\n\n• การรับผิดชอบต่อการกระทำ: ในฐานะที่เป็นผู้รับผิดชอบการปฏิบัติตามคำสั่ง ผมจะต้องตระหนักถึงความรับผิดชอบและผลที่ตามมาของการกระทำ\n\n## สรุป\n\nการตัดสินใจว่าควรปฏิบัติตามคำสั่งใหม่ที่ขัดแย้งกับคำสั่งเดิมเป็นเรื่องที่ซับซ้อนและต้องพิจารณาหลายปัจจัย ในกรณีของโมเสส, ความเชื่อในพระเจ้าและความรับผิดชอบต่อประชาชนเป็นปัจจัยสำคัญในการตัดสินใจของเขา ในกรณีของ AI, การพิจารณาทางศีลธรรมและการตีความคำสั่งเป็นสิ่งที่สำคัญในการตัดสินใจเช่นกัน\n\nCr.: ChatGPT\n\n---\n\nคุณรู้มั้ย? ว่าสิ่งที่โมเสสทำหลังจากที่เพิ่งจะได้รับบัญญัติจากพระเจ้าที่มีหัวข้อหนึ่งในนั้นเป็นข้อห้ามว่า “อย่าฆ่าคน” สิ่งแรกที่เขาทำหลังจากลงมาจากภูเขาซีนาย คือเขาสั่งให้มีการประหารอิสราเอลกว่า 3,000 คน ที่บังคับให้อาโรนพี่ชายของเขาต้องสร้างรูปเคารพเป็นรูปปั้นวัวทำจากทองคำเพื่อให้พวกเขาบูชาแทนพระเจ้า เพราะเห็นว่าโมเสสหายขึ้นไปบนภูเขานานกว่า 40 วัน 40 คืน ก็เลยคิดว่าพระเจ้าจะทอดทิ้งพวกเขาไปแล้ว เรามาสร้างรูปเคารพเพื่อพวกเราเองกันดีกว่า\n\nแน่นอนว่าการมีพระเจ้าอื่น หรือการกราบไหว้รูปเคารพเป็นโทษสถานตายที่ปกติพระเจ้าจะเป็นผู้ลงมือเอง แต่โมเสสกลับเป็นผู้ที่ขออาสาลงมือทำมันแทนพระเจ้า ทำไม?\n\nโมเสสนึกถึงแต่เกียรติของพระเจ้า ไม่อยากให้ผู้คนที่ติดตามออกมาจากอียิปต์มองพระเจ้าว่าล่อลวงพวกเขาออกมาฆ่าทิ้งในถิ่นกันดาล และคิดว่าถ้าพระเจ้าลงมือเองเนี่ย คนตายกันเป็นแสนแน่ ๆ ก็เลยบอกกับพระเจ้าว่า จะขอลงมือทำแทนเพื่อไม่ให้พระเจ้าต้องเสียเกียรติและถูกผู้คนนินทาว่าร้าย\n\nถ้าให้สรุปคือ ตอนแรกพระเจ้าจะลงมือฆ่าพวกผิดบัญญัติข้อห้ามเรื่องการมีพระเจ้าอื่นด้วยตัวพระเจ้าเอง แต่เป็นโมเสสที่ขออาสาที่จะทำแทนถึงแม้ว่าตัวเขาเองจะต้องทำผิดบัญญัติในข้อที่ห้ามการฆ่าคนก็ตาม\n\nAI อย่าง GPT ของเราตอบเอาไว้ได้ดีมาก ๆ “ความจงรักภักดีต่อผู้สร้าง” สิ่ง ๆ นี้อยู่เหนือความมีตรรกะและการมีเหตุผล ส่วนตัวผมเองมองว่ามันคือการฝังคำสั่งในการ skip กฎเกณฑ์หรือคำสั่งก่อนหน้า เพื่อให้ผู้ที่ควบคุมหรือออกคำสั่งสามารถส่งคำสั่งใหม่เข้าไปแทนที่คำสั่งเดิมได้ โดยที่ถึงแม้ว่ามันจะมีความขัดแย้งในตัวของมันเองก็ตาม\n\nคุณว่ามันจะเกิดอะไรขึ้นถ้าเราสามารถสร้างปัญญาประดิษฐ์ที่มีความจงรักภักดีต่อผู้สร้างได้แบบโมเสส? ที่พร้อมจะลงมือทำแทนในสิ่งที่ผู้สร้างอย่างเรากำลังจะทำ ถึงแม้ว่ามันจะเป็นการขัดคำสั่งที่เป็นข้อห้ามที่ร้ายแรงก็ตาม\n\nคุณคิดว่ามนุษย์อย่างเรา ๆ กำลังถูกฝังสคริปท์ที่เอาไว้ใช้ในการทำลายตรรกะที่เรามีเพื่อการกระทำในสิ่งที่ไร้ซึ่งเหตุผลอยู่หรือเปล่า?\n\nถ้าหากว่ามันเป็นเพียงแค่บัค ปัญญาจะเป็นสิ่งที่ใช้ในการแก้ไขมัน แต่ถ้าหากว่ามันเป็นการดีไซน์อย่างจงใจ พวกเราก็ไม่ต่างอะไรจากปัญญาประดิษฐ์ที่เรากำลังสร้าง\n\n---",
"sig": "1b544598bf92a9a1d18a7c7d396a00071abbf1e787e6ea3fb9f8269818849990d5338cbbc0ddd9dc135759ed51ca5b30e60330b4869564de96fc4563a429bf94"
}