OpenAI สนับสนุนกฎระเบียบของ AI เพื่อความปลอดภัยของมนุษย์

ผู้นำของ OpenAIซึ่งเป็นองค์กรที่รับผิดชอบในการพัฒนา ChatGPT กำลังเรียกร้องให้มีการควบคุมหน่วยข่าวกรอง "อัจฉริยะ"

พวกเขาสนับสนุนการสร้างหน่วยงานกำกับดูแลที่คล้ายคลึงกับสำนักงานพลังงานระหว่างประเทศ พลังงานปรมาณูเพื่อปกป้องมนุษยชาติจากความเสี่ยงในการสร้างหน่วยสืบราชการลับที่มีความสามารถ กำลังเลิกทำ

ในแถลงการณ์สั้น ๆ ที่โพสต์บนเว็บไซต์ของบริษัท ผู้ร่วมก่อตั้ง Greg Brockman และ Ilya Sutskever พร้อมด้วย CEO Sam Altman เรียกร้องให้มีการจัดตั้งหน่วยงานกำกับดูแลระหว่างประเทศเพื่อเริ่มงานตรวจสอบระบบข่าวกรอง เทียม.

ข้อเสนอนี้มีจุดมุ่งหมายเพื่อดำเนินการตรวจสอบ ทดสอบการปฏิบัติตามมาตรฐานความปลอดภัย และดำเนินการตามข้อจำกัดในการปรับใช้และระดับความปลอดภัย มาตรการเหล่านี้มีจุดมุ่งหมายเพื่อลดความเสี่ยงที่มีอยู่ที่เกี่ยวข้องกับระบบเหล่านี้ โดยพยายามปกป้องมนุษยชาติจากอันตรายที่อาจเกิดขึ้น

เป็นเวลาหลายทศวรรษที่นักวิจัยได้เน้นย้ำถึงความเสี่ยงที่อาจเกี่ยวข้องกับการข่าวกรองระดับสูง ซึ่งเราได้เห็นวิวัฒนาการอย่างแท้จริง อย่างไรก็ตาม ในขณะที่การพัฒนา AI ก้าวหน้าอย่างรวดเร็ว ความเสี่ยงเหล่านี้ก็ยิ่งเป็นรูปธรรมมากขึ้นเรื่อยๆ

อ ศูนย์ความปลอดภัยเอไอ (CAIS) ซึ่งตั้งอยู่ในสหรัฐอเมริกา อุทิศตนเพื่อลดความเสี่ยงทางสังคมที่เกี่ยวข้องกับปัญญาประดิษฐ์ และได้ระบุ ความเสี่ยงแปดประเภทที่พิจารณาว่า "หายนะ" และ "มีอยู่จริง" ที่เกี่ยวข้องกับการพัฒนา AI โดย ตัวอย่าง. มีความเสี่ยงร้ายแรงและเราเผชิญกับความเสี่ยงเหล่านี้

ผู้นำ OpenAI เรียกร้องให้มีการควบคุม AI

เป็นไปได้ที่จะจินตนาการว่าในอีก 10 ปีข้างหน้า ระบบ AI จะถึงระดับทักษะเฉพาะด้านในหลายๆ ด้าน และมีประสิทธิผลทัดเทียมกับองค์กรขนาดใหญ่บางแห่งในปัจจุบันในฐานะผู้เชี่ยวชาญที่ OpenAI

วิวัฒนาการอย่างรวดเร็วของ AI นี้มีศักยภาพในการเปลี่ยนแปลงอุตสาหกรรมจำนวนมาก ในขณะที่ยังคงรักษาประสิทธิภาพและระบบอัตโนมัติในกิจกรรมการผลิตจำนวนมาก

ในแง่ของข้อได้เปรียบที่อาจเกิดขึ้นและการป้องกันนั้น ความฉลาดหลักแหลมถือเป็นเทคโนโลยีขั้นสูงกว่า มีพลังมากกว่าที่มนุษยชาติเคยเผชิญมาในอดีต สารจากผู้นำกล่าว

มีความเป็นไปได้ของอนาคตที่รุ่งเรืองกว่าอย่างเห็นได้ชัด แต่จำเป็นอย่างยิ่งที่จะต้องจัดการความเสี่ยงที่เกี่ยวข้องกับการบรรลุสถานการณ์นี้อย่างรอบคอบ เมื่อเผชิญกับความเป็นไปได้ของความเสี่ยงที่มีอยู่ ดังที่รายงานไว้ในหมายเหตุ สิ่งสำคัญคือต้องใช้ท่าทีเชิงรุก แทนที่จะตอบสนองต่อสถานการณ์ที่เกิดขึ้นเท่านั้น

ในบริบทปัจจุบัน กลุ่มเน้นย้ำถึงความจำเป็นของ "การประสานงานระดับหนึ่ง" ระหว่างบริษัทที่เกี่ยวข้องกับการวิจัยขั้นสูง ใน AI เพื่อให้แน่ใจว่าการรวมโมเดลที่ทรงพลังมากขึ้นในสังคมเป็นไปอย่างราบรื่นโดยมีความสำคัญเป็นพิเศษ ความปลอดภัย.

การประสานงานดังกล่าวสามารถจัดตั้งขึ้นผ่านความคิดริเริ่มหรือข้อตกลงร่วมกันที่พยายามจำกัดความก้าวหน้าของความสามารถของ AI แนวทางเหล่านี้จะเป็นกุญแจสำคัญในการสร้างความมั่นใจว่าการพัฒนา AI จะได้รับอนุญาตในลักษณะที่มีการควบคุมและมีความรับผิดชอบ โดยพิจารณาจากความเสี่ยงที่เกี่ยวข้อง

คนรักหนัง ซีรีส์ และทุกสิ่งที่เกี่ยวข้องกับภาพยนตร์ มีความอยากรู้อยากเห็นเกี่ยวกับเครือข่าย เชื่อมต่อกับข้อมูลเกี่ยวกับเว็บอยู่เสมอ