บทความนี้จะเจาะลึกเกี่ยวกับประวัติการใช้ชุดข้อมูล ประเภทข้อมูลที่จำเป็นในระยะต่างๆ ของการฝึก LLM และความท้าทายที่พบในการจัดหาและการใช้ชุดข้อมูลเหล่านี...

โดย Farruh

1_jpeg

บทนำ

ชุดข้อมูลคือหัวใจสำคัญของปัญญาประดิษฐ์ โดยเฉพาะอย่างยิ่งในการฝึกโมเดลภาษาขนาดใหญ่ (Large Language Model หรือ LLM) ที่เป็นตัวขับเคลื่อนทุกสิ่งอย่างตั้งแต่แชทบอทไปจนถึงเครื่องมือสร้างเนื้อหา ชุดข้อมูลเหล่านี้ประกอบเป็นรากฐานที่โมเดล AI ใช้เรียนรู้และพัฒนาขีดความสามารถของโมเดล อย่างไรก็ตาม ขณะที่มีความต้องการที่จะใช้ระบบ AI ขั้นสูงยิ่งขึ้นมากขึ้นเรื่อยๆ ความจำเป็นที่จะต้องมีชุดข้อมูลคุณภาพสูง หลากหลาย และครอบคลุมจึงเพิ่มขึ้นเช่นกัน บทความนี้จะเจาะลึกเกี่ยวกับประวัติการใช้ชุดข้อมูล ประเภทของข้อมูลที่จำเป็นในระยะต่างๆ ของการฝึก LLM และความท้าทายที่พบในการจัดหาและการใช้ชุดข้อมูลเหล่านี้

ประวัติโดยสังเขปของการใช้ชุดข้อมูลในด้าน AI

ในยุคแรกเริ่มในการศึกษาวิจัยด้าน AI ชุดข้อมูลผ่านการคัดสรรอย่างพิถีพิถันจากแหล่งที่มาต่างๆ เช่น สารานุกรม บทสำเนาของรัฐสภา บันทึกการโทรศัพท์ และการพยากรณ์อากาศ ชุดข้อมูลแต่ละชุดผ่านการปรับให้เหมาะกับงานที่เฉพาะเจาะจงเพื่อรับรองความเกี่ยวข้องและคุณภาพ อย่างไรก็ตาม เมื่อ Transformer ถือกำเนิดขึ้นมาในปี 2017 ซึ่งเป็นสถาปัตยกรรมนิวรัลเน็ตเวิร์กอันสำคัญยิ่งต่อโมเดลภาษาขนาดใหญ่ จุดมุ่งเน้นจึงเบนไปยังปริมาณโดยสมบูรณ์ จึงทำให้เกิดการเปลี่ยนแปลงครั้งสำคัญในแนวทางการศึกษาวิจัยด้าน AI นักวิจัยตระหนักว่าประสิทธิภาพของ LLM ดีขึ้นอย่างมีนัยสำคัญเมื่อใช้โมเดลและชุดข้อมูลขนาดใหญ่ขึ้น ซึ่งนำไปสู่การดึงข้อมูลโดยไม่เลือกเฟ้นจากอินเทอร์เน็ต

ภายในปี 2018 อินเทอร์เน็ตได้กลายเป็นแหล่งที่มาหลักของข้อมูลทุกประเภท รวมถึงเสียง รูปภาพ และวิดีโอ แนวโน้มยังคงเป็นเช่นนี้มาอย่างต่อเนื่อง จึงก่อให้เกิดความไม่สอดคล้องกันในปริมาณมากระหว่างข้อมูลที่ได้มาจากอินเทอร์เน็ตและชุดข้อมูลที่คัดสรรด้วยตนเอง ความต้องการที่จะขยับขยายการใช้งานยังนำไปสู่การใช้ข้อมูลสังเคราะห์อย่างแพร่หลาย ซึ่งเป็นข้อมูลที่สร้างโดยอัลกอรึทึมมากกว่าการรวบรวมมาจากการโต้ตอบใช้ชีวิตจริง

ประเภทข้อมูลที่จำเป็นสำหรับการฝึก LLM

การฝึกล่วงหน้า

การฝึกล่วงหน้าเป็นระยะแรกเริ่มที่โมเดลได้รับข้อมูลรูปแบบข้อความในปริมาณมหาศาลเพื่อเรียนรู้รูปแบบและโครงสร้างภาษาทั่วไป ในระยะนี้ โมเดลจำเป็นต้องมีสิ่งต่อไปนี้

แหล่งข้อมูลรูปแบบข้อความที่หลากหลาย: ข้อมูลควรมาจากหัวข้อและภาษาที่หลากหลายเพื่อให้เกิดความเข้าใจอย่างกว้างขวาง ซึ่งเป็นปัจจัยสำคัญในการพัฒนาโมเดล AI
ข้อมูลปริมาณมาก: จำเป็นต้องใช้โทเค็นหลายพันล้านรายการเพื่อฝึกโมเดลอย่างมีประสิทธิภาพ
การควบคุมคุณภาพ: แม้ปริมาณจะเป็นปัจจัยที่สำคัญยิ่ง แต่การคงไว้ซึ่งคุณภาพในระดับตามเส้นฐานก็มีความสำคัญไม่แพ้กันเนื่องจากจะช่วยป้องกันไม่ให้โมเดลเรียนรู้ข้อมูลที่ไม่ถูกต้องหรือข้อมูลที่เอนเอียง แหล่งที่มาต่างๆ มักจะประกอบด้วยหน้าเว็บ หนังสือ บทความ และข้อความอื่นๆ ที่เผยแพร่ต่อสาธารณะ

อย่างไรก็ตาม ข้อควรพิจารณาด้านจริยธรรมถือกำเนิดขึ้นเมื่อใช้สื่อที่มีลิขสิทธิ์โดยไม่ได้รับอนุญาต

การฝึกล่วงหน้าอย่างต่อเนื่อง

การฝึกล่วงหน้าอย่างต่อเนื่องเป็นการอัปเดตโมเดลโดยใช้ข้อมูลใหม่ๆ เพื่อให้โมเดลเป็นปัจจุบันและปรับปรุงฐานความรู้ของโมเดล ระยะนี้จำเป็นต้องใช้สิ่งต่อไปนี้

ข้อมูลล่าสุด: เพื่อรวมข้อมูลและแนวโน้มล่าสุดไว้ในโมเดล
ข้อมูลเฉพาะขอบเขตหัวข้อ: ขึ้นอยู่กับความต้องการของอุตสาหกรรม ชุดข้อมูลเฉพาะด้าน (เช่น วารสารทางการแพทย์สำหรับการใช้งานด้านการดูแลสุขภาพ) อาจมีความจำเป็น

การปรับละเอียด

การปรับละเอียดจะปรับโมเดลที่ผ่านการฝึกอบรมล่วงหน้าให้เหมาะกับงานหรือขอบเขตหัวข้อที่เฉพาะเจาะจง โดยทั่วไปจะใช้ชุดข้อมูลที่มีขนาดเล็กกว่า มุ่งเป้าเจาะจงมากกว่า รวมทั้งมีการกำกับประเภทและผ่านการคัดสรรอย่างละเอียดถี่ถ้วนมากกว่า ตัวอย่างเช่น

ข้อมูลเฉพาะงาน: การวิเคราะห์ความรู้สึกอาจต้องใช้บทวิจารณ์พร้อมคำอธิบายประกอบ ขณะที่ระบบการตอบคำถามต้องใช้คำถามและคำตอบคู่กัน
การปรับตามขอบเขตหัวข้อ: เอกสารทางกฎหมาย งานวิจัยทางวิทยาศาสตร์ หรือคู่มือทางเทคนิคเพื่อการใช้งานเฉพาะด้าน

ด้านล่างนี้เป็นตัวอย่างของชุดข้อมูลและวิธีที่ใช้ในกระบวนการนี้

ตัวอย่างของชุดข้อมูลในการปรับละเอียด

ข้อมูลเฉพาะงาน: สำหรับการวิเคราะห์ความรู้สึก _Stanford Sentiment Treebank (SST-2) _เป็นชุดข้อมูลที่มีการใช้งานอย่างแพร่หลาย ซึ่งประกอบด้วยบทวิจารณ์ภาพยนตร์พร้อมคำอธิบายประกอบที่กำกับประเภทว่าเป็นเชิงบวกหรือเชิงลบ ในลักษณะเดียวกัน ระบบการตอบคำถามมักใช้ _Stanford Question Answering Dataset (SQuAD)_ ซึ่งจะจับคู่คำถามกับคำตอบโดยอิงตามบริบท
การปรับตามขอบเขตหัวข้อ: การใช้งานทางกฎหมายจะใช้ _CaseLaw Corpus_ ซึ่งเป็นการรวบรวมคำคำวินิจฉัยชี้ขาดของศาลพร้อมคำอธิบายประกอบ ขณะที่โมเดลทางการแพทย์อาจใช้ _PubMed Abstracts _สำหรับการวิเคราะห์วรรณกรรมทางวิทยาศาสตร์

วิธีหลักๆ ในการปรับละเอียด

Parameter-Efficient Fine-Tuning (PEFT): เทคนิค PEFT เช่น LoRA (การปรับระดับต่ำหรือ Low-Rank Adaptation) หรืออะแดปเตอร์เลเยอร์จะอัปเดตเฉพาะชุดย่อยเล็กๆ ของพารามิเตอร์ของโมเดล ซึ่งจะลดค่าใช้จ่ายด้านการประมวลผลขณะที่ยังคงรักษาประสิทธิภาพไว้ ตัวอย่างเช่น LoRA จะหยุดการถ่วงน้ำหนักของโมเดลดั้งเดิมและเพิ่มเมทริกซ์ระดับต่ำที่ฝึกได้ให้กับเลเยอร์ที่เฉพาะเจาะจง
การปรับละเอียดตามคำสั่ง: วิธีนี้เป็นการฝึกโมเดลตามคำสั่งเฉพาะงานควบคู่กับตัวอย่างอินพุต-เอาต์พุต ตัวอย่างเช่น โมเดลที่ผ่านการปรับละเอียดโดยใช้คำสั่งอย่าง _"จำแนกประเภทความรู้สึกของบทวิจารณ์นี้: [ข้อความ]" _จะเรียนรู้ที่จะปฏิบัติตามคำสั่งที่ชัดเจน ซึ่งจะช่วยให้นำไปใช้ในการใช้งานในชีวิตจริงได้ง่ายขึ้น
การถ่ายโอนการเรียนรู้: โมเดลที่ผ่านการฝึกมาแล้วจะปรับให้เข้ากับขอบเขตหัวข้อใหม่โดยการปรับละเอียดคลังข้อมูลเฉพาะขอบเขตหัวข้อ ตัวอย่างเช่น LLM เพื่อการใช้งานทั่วไปสามารถนำไปดำเนินการปรับละเอียดโดยใช้รายงานทางการเงินจาก _EDGAR SEC Filings _เพื่อให้มีความเชี่ยวชาญด้านการวิเคราะห์ตลาดหุ้น

เมื่อรวมชุดข้อมูลที่คัดสรรมากับวิธีการขั้นสูงอย่าง PEFT นักวิจัยและนักพัฒนาจึงสามารถปรับ LLM ให้เหมาะกับการใช้งานเฉพาะด้านในขณะที่ยังคงจัดการกับข้อจำกัดด้านทรัพยากรและความท้าทายด้านการปรับขนาดได้

การเรียนรู้เสริม

การเรียนรู้เสริมจากข้อเสนอแนะของมนุษย์ (RLHF) เป็นการฝึกโมเดลเพื่อให้สอดคล้องกับความต้องการของมนุษย์ได้ดีขึ้น ระยะนี้จำเป็นต้องใช้สิ่งต่อไปนี้

ข้อเสนอแนะของมนุษย์: การให้คะแนนหรือการแก้ไขที่ดำเนินการโดยมนุษย์เพื่อชี้แนะพฤติกรรมของโมเดล
ข้อมูลเชิงโต้ตอบ: การโต้ตอบแบบเรียลไทม์ที่โมเดลได้รับผลป้อนกลับทันที

ด้านล่างนี้เป็นตัวอย่างของชุดข้อมูลและวิธีการที่สำคัญต่อ RLHF

ตัวอย่างชุดข้อมูล RLHF

ชุดข้อมูลความต้องการ: RLHF จะเริ่มต้นจากการรวบรวมข้อมูลความต้องการที่มีการกำกับประเภทโดยมนุษย์ โดยที่มีมนุษย์จัดลำดับหรือให้คะแนนเอาต์พุตของโมเดล ตัวอย่างเช่น การทดลองด้าน RLHF แรกๆ ของ OpenAI ใช้ชุดข้อมูลที่ผู้จัดทำข้อมูลประกอบเปรียบเทียบการตอบกลับที่โมเดลสร้างขึ้นหลายรายการต่อพรอมต์เดียวกัน โดยกำกับประเภทว่ารายการใดเป็นประโยชน์ ตรงตามความจริง หรือสอดคล้องกับแนวทางด้านจริยธรรมมากกว่า ชุดข้อมูลเหล่านี้มักมีตัวอย่างที่แตกต่างเพียงเล็กน้อย เช่น การจำแนกความแตกต่างระหว่างคำตอบที่เป็นข้อเท็จจริงและคำตอบที่เอนเอียงในหัวข้อที่ละเอียดอ่อนอย่างการเมืองหรือการดูแลสุขภาพ

วิธีหลักๆ ของ RLHF

การฝึกโมเดลรางวัล: โมเดลรางวัลจะดำเนินการฝึกโดยใช้ข้อมูลความต้องการของมนุษย์เพื่อคาดการณ์ว่ามนุษย์จะชอบเอาต์พุตใดมากกว่า โมเดลนี้ทำหน้าที่เป็นตัวแทนในการตัดสินใจของมนุษย์ในระหว่างการเรียนรู้เสริม ตัวอย่างเช่น ซีรีส์ Qwen ของ Alibaba Cloud ใช้โมเดลรางวัลเพื่อลงโทษเอาต์พุตที่เป็นอันตรายหรือไม่ปลอดภัยขณะที่ให้รางวัลเอาต์พุตที่ชัดเจนและสัมพันธ์กัน
Proximal Policy Optimization (PPO): PPO เป็นอัลกอริทึมการเรียนรู้เสริมที่จะปรับละเอียดนโยบายของ LLM (การสร้างเอาต์พุต) เพื่อเพิ่มรางวัลจากโมเดลรางวัลที่ผ่านการฝึกมาแล้วให้ได้มากที่สุด วิธีนี้ทำให้มีการอัปเดตอย่างสม่ำเสมอ ซึ่งจะป้องกันการเบี่ยงเบนที่รุนแรงออกจากพฤติกรรมที่ประสงค์ ตัวอย่างเช่น PPO ถูกนำไปใช้เพื่อปรับละเอียดการตอบกลับของแชทบอทซ้ำๆ ในระบบ เช่น Qwen
ลูปข้อเสนอแนะเชิงโต้ตอบ: ข้อเสนอแนะของมนุษย์แบบเรียลไทม์ผสานรวมอยู่ในกระบวนการฝึก ตัวอย่างเช่น ผู้ช่วย AI อย่าง Gemini ของ Google อาจนำเวอร์ชันเบต้าไปใช้งานเพื่อรวบรวมคะแนนของผู้ใช้ (เช่น การกดถูกใจ/ไม่ถูกใจ) กับการตอบกลับ ซึ่งจะส่งกลับไปยังกระบวนการ RLHF เพื่อปรับปรุงเอาต์พุตในอนาคต
การกรองที่สำคัญต่อความปลอดภัย: ชุดข้อมูลเฉพาะด้านจะมุ่งเน้นไปที่สถานการณ์ที่มีความเสี่ยงสูง เช่น คำแนะนำทางการแพทย์หรือคำถามทางกฎหมาย ซึ่งข้อผิดพลาดอาจทำให้เกิดผลที่ตามมาที่ร้ายแรง ชุดข้อมูลเหล่านี้มักจะอาศัยให้ผู้เชี่ยวชาญตามขอบเขตหัวข้อจัดทำคำอธิบายประกอบเอาต์พุตเพื่อความถูกต้องแม่นยำและความปลอดภัย จึงรับรองได้ว่าโมเดลปฏิบัติตามแนวทางที่เข้มงวด

ความท้าทายในด้านชุดข้อมูล RLHF

ความสามารถในการปรับขนาดของข้อเสนอแนะของมนุษย์: การรวบรวมข้อมูลความต้องการที่มีคุณภาพสูงเป็นงานหนักและมีค่าใช้จ่ายสูง การขยับขยายกระบวนการนี้ต้องอาศัยการใช้ระบบอัตโนมัติ (เช่น ผลป้อนกลับสังเคราะห์) ร่วมกับการกำกับดูแลโดยมนุษย์อย่างสมดุลกันเพื่อป้องกันไม่ให้เกิดอคติ
อคติทางวัฒนธรรมและจริยธรรม: ชุดข้อมูลความต้องการมักจะสะท้อนค่านิยมของผู้จัดทำข้อมูลประกอบจากภูมิภาคหนึ่งๆ (เช่น แง่มุมที่มุ่งเน้นตามค่านิยมตะวันตก) จึงเสียงที่จะเกิดเอาต์พุตที่เอนเอียงในการใช้งานทั่วโลก

เมื่อใช้ชุดข้อมูลความต้องการ การจำลองโมเดลรางวัล และการให้ข้อเสนอแนะซ้ำๆ โดยมนุษย์ร่วมกัน RLHF จะรับรองให้แน่ใจได้ว่า LLM จะพัฒนาจากการเป็นตัวสร้างข้อความทั่วไปเป็นระบบที่มุ่งเน้นให้ความสำคัญด้านความปลอดภัย ความเกี่ยวข้อง และความสอดคล้องกับความต้องการของมนุษย์

ความท้าทายในด้านการจัดหาข้อมูล

การใช้ข้อมูลที่มีอยู่จนหมดสิ้น

ปัญหาเร่งด่วนข้อหนึ่งในปัจจุบันคือการใช้ข้อมูลข้อความที่มีพร้อมให้ใช้งานจนหมดสิ้น โดยมีการรายงานว่าบริษัทเทคโนโลยียักษ์ใหญ่รายต่างๆ ได้จัดทำดัชนีข้อมูลข้อความที่เข้าถึงได้จากเว็บแบบเปิดและดาร์กเว็บจนหมดแล้ว รวมถึงหนังสือที่ละเมิดลิขสิทธิ์ คำบรรยายภาพยนตร์ ข้อความส่วนตัว และโพสต์บนโซเชียลมีเดีย เมื่อมีแหล่งข้อมูลใหม่ๆ ให้ใช้งานน้อยลง อุตสาหกรรมนี้จึงประสบกับอุปสรรคในการพัฒนาให้ก้าวหน้าต่อไป

ปริมาณข้อมูลที่สะสม (ในระดับอัลกอริทึมสำหรับข้อความ, ในหลักชั่วโมงสำหรับเสียงพูด/วิดีโอ) จากหมวดหมู่แหล่งที่มาแต่ละรายการในทุกรูปแบบข้อมูล หมวดหมู่แหล่งที่มาในคำอธิบายสัญลักษณ์จะเรียงลำดับตามปริมาณจากมากไปหาน้อย

การขาดดุลยภาพทางวัฒนธรรม

ชุดข้อมูลส่วนใหญ่มาจากยุโรปและอเมริกาเหนือ ด้วยเหตุนี้จึงสะท้อนมุมมองโลกทัศน์ที่มุ่งเน้นตามค่านิยมตะวันตก ชุดข้อมูลที่ผ่านการวิเคราะห์ไม่ถึง 4% มาจากแอฟริกา ซึ่งเป็นการเน้นย้ำถึงการขาดดุลยภาพทางวัฒนธรรมอย่างมาก ความเอนเอียงเช่นนี้อาจนำไปสู่ความรู้ความเข้าใจที่บิดเบือนและยิ่งก่อให้เกิดการเหมารวม โดยเฉพาะอย่างยิ่งในโมเดลที่รองรับข้อมูลหลายรูปแบบที่สร้างรูปภาพและวิดีโอ

การรวมศูนย์อำนาจ

องค์กรขนาดใหญ่เป็นเจ้าของและควบคุมชุดข้อมูลที่มีอิทธิพล แพลตฟอร์มต่างๆ เช่น YouTube มีข้อมูลวิดีโอกว่า 70% ที่ถูกนำไปใช้ในการฝึก AI ซึ่งเป็นการรวมอำนาจมหาศาลไว้ในการควบคุมขององค์กรเพียงไม่กี่องค์กร การรวมศูนย์อำนาจเช่นนี้ขัดขวางนวัตกรรมและก่อให้เกิดอุปสรรคสำหรับบริษัทรายเล็กๆ ที่ไม่สามารถเข้าถึงแหล่งข้อมูลเหล่านี้ได้

การรวบรวมชุดข้อมูล

ตารางต่อไปนี้แสดงแหล่งที่มาในการรวบรวมข้อความ คุณสมบัติต่างๆ รวมถึงจำนวนชุดข้อมูล งาน ภาษา และขอบเขตหัวข้อของข้อความ คอลัมน์แหล่งที่มาระบุเนื้อหาในการรวบรวมนี้ ได้แก่ ข้อความที่สร้างโดยมนุษย์บนเว็บ เอาต์พุตของโมเดลภาษา หรือทั้งสองอย่าง คอลัมน์สุดท้ายระบุสถานะสิทธิ์ใช้งานของการรวบรวมนี้ โดยสีน้ำเงินคือการใช้งานเชิงพาณิชย์ สีแดงคือการใช้งานที่ไม่ใช่เชิงพาณิชย์และการศึกษาวิจัยทางวิชาการ และสีเหลืองคือสิทธิ์ใช้งานที่ไม่ชัดเจน สุดท้าย คอลัมน์ OAI ระบุการรวบรวมที่ประกอบด้วยการสร้างของโมเดล OpenAI ชุดข้อมูลแสดงตามลำดับเพื่อเน้นให้เห็นแนวโน้มตามเวลาที่ผ่านไป โดยมีแหล่งที่มาจากที่นี่

การรวบรวมข้อมูลข้อความ

การรวบรวมข้อมูลวิดีโอ

การรวบรวมข้อมูลเสียง

วิธีแก้ปัญหาและทิศทางในอนาคต

การใช้แหล่งข้อมูลที่ไม่เคยมีการใช้งานมาก่อน

แม้จะเห็นได้ชัดว่าข้อมูลที่เข้าถึงได้โดยง่ายถูกใช้งานไปจนหมดแล้ว แต่ก็ยังคงมีแหล่งข้อมูลหลายแหล่งที่ยังไม่มีการใช้งานมาก่อน

ข้อมูลที่จัดเก็บ: ห้องสมุด วารสารที่ออกตามกำหนดเวลา และบันทึกทางประวัติศาสตร์มีเนื้อหามากมายที่ยังไม่เคยผ่านการสำรวจ
ข้อมูลองค์กร: บริษัทต่างๆ มีข้อมูลที่ยังไม่ถูกนำไปใช้ปริมาณมหาศาล เช่น การวัดและส่งข้อมูลทางไกลของอุปกรณ์ รายงานอุตุนิยมวิทยา บันทึกระบบ และสถิติทางการตลาด

LLM ขั้นสูงสามารถช่วยจัดโครงสร้างและนำชุดข้อมูลที่ซ่อนอยู่เหล่านี้ไปใช้ฝึกในอนาคตได้

การเรียนรู้โดยแยก

การเรียนรู้โดยแยกหรือ Federated Learning ช่วยให้โมเดลสามารถดำเนินการฝึกด้วยข้อมูลที่ละเอียดอ่อนโดยที่ไม่ต้องถ่ายโอนข้อมูลออกนอกสภาพแวดล้อมที่ปลอดภัย วิธีนี้เหมาะสำหรับอุตสาหกรรมที่ต้องจัดการกับข้อมูลที่เป็นความลับ เช่น การดูแลสุขภาพ การเงิน และโทรคมนาคม เมื่อจัดเก็บข้อมูลไว้เฉพาะที่ การเรียนรู้โดยไม่รวมศูนย์จึงให้ความเป็นส่วนตัวขณะที่ยังคงเอื้อให้สามารถพัฒนาโมเดลร่วมกันได้

ข้อมูลสังเคราะห์และการเสริม

การสร้างข้อมูลสังเคราะห์และการเสริมข้อมูลเปิดโอกาสให้สามารถขยายการฝึกชุดข้อมูลได้

ข้อมูลสังเคราะห์: ข้อมูลสังเคราะห์ที่สร้างโดยอัลกอริทึมสามารถอุดช่องโหว่ของข้อมูลในชีวิตจริงได้ แต่จะต้องดำเนินการอย่างระมัดระวังเพื่อป้องกันไม่ให้เกิดข้อผิดพลาดในการนำไปใช้ร่วมกัน
การเสริมข้อมูล: การแก้ไขข้อมูลที่มีอยู่ผ่านเทคนิคต่างๆ เช่น การกลับรูปภาพ การเปลี่ยนสี หรือการปรับความคมชัด จะยังคงไว้ซึ่งความสมจริงไปพร้อมๆ กับเพิ่มความหลากหลาย

สรุป

ขณะที่แวดวง AI พัฒนาก้าวหน้าไปอย่างต่อเนื่อง ชุดข้อมูลก็ยังคงมีบทบาทที่สำคัญอย่างยิ่ง แม้ว่าการไม่เหลือข้อมูลให้ใช้งานจะเป็นความท้าทายอย่างหนึ่ง แต่นักวิจัยและผู้ที่สนใจด้าน AI อย่างเราก็จำเป็นต้องตระหนักและรับผิดชอบด้านการแก้ไขปัญหาต่างๆ เช่น การขาดดุลยภาพทางวัฒนธรรมและการรวมศูนย์ วิธีการแก้ปัญหาใหม่ๆ เช่น การใช้แหล่งข้อมูลที่ไม่มีการใช้งานมาก่อน การเรียนรู้โดยแยก และการสร้างข้อมูลสังเคราะห์จะเปิดโอกาสให้ก้าวต่อไปข้างหน้าได้ เมื่อใช้กลยุทธ์เหล่านี้ร่วมกัน เราจะสามารถดำเนินการพัฒนาที่มีความยุติธรรมและความหลากหลาย ซึ่งจะเป็นการเปิดโอกาสให้มีระบบปัญญาประดิษฐ์ที่ซับซ้อนและไม่แบ่งแยกมากยิ่งขึ้น

บทความนี้แปลจากภาษาอังกฤษ ดูบทความต้นฉบับได้ที่นี่

Community

ภูมิทัศน์ของข้อมูลการฝึก LLM ที่มีการพัฒนาอย่างต่อเนื่อง