ข่าวรอบโลก

Hacker News·12 ก.ค. 2569

Mesh LLM: ระบบ AI กระจายศูนย์ลดต้นทุน 50% ผ่านเครือข่าย GPU ของผู้ใช้เอง

Mesh LLM เปิดตัวระบบ AI กระจายศูนย์ที่ใช้ GPU ของผู้ใช้ในเครือข่ายหลายเครื่อง แทนการพึ่งพาเซิร์ฟเวอร์กลาง ช่วยลดต้นทุนการใช้งาน LLM ได้ถึง 50% โดยเปิดให้ใช้งานผ่าน API แบบ OpenAI-compatible ล่าสุด ระบบจัดการคำขอผ่าน 3 วิธี: ประมวลผลที่เครื่องที่ใช้งาน (local), ส่งไปประมวลผลที่เครื่องอื่นในเครือข่าย (peer), หรือแบ่งงานไปประมวลผลหลายเครื่องพร้อมกัน (split) สำหรับโมเดลขนาดใหญ่ มีโหมด 'split' ที่แบ่งงานการประมวลผลแบบ horizontal scaling ผ่าน iroh's peer-to-peer network ที่ใช้โปรโตคอล secure transport แบบ end-to-end encryption ซอฟต์แวร์ที่ใช้ติดตั้งบนเครื่องผู้ใช้มีขนาดเบา รองรับการใช้งาน LLM ที่มีขนาด token มากกว่า 100B โดยไม่ต้องพึ่งพาโครงสร้างพื้นฐานของคลาวด์ ผู้ใช้สามารถควบคุมการฝึกโมเดลและปรับแต่งการใช้งานได้โดยตรง Mesh LLM ใช้ iroh's peer-to-peer network ที่ทำหน้าที่เป็น node สำหรับทุกเครื่องในเครือข่าย ไม่ว่าจะเป็นเครื่องที่ส่งคำขอหรือประมวลผล ระบบยังรองรับการติดตั้งโมเดลขนาดใหญ่ถึง 235B parameters โดยแบ่งงานประมวลผลเป็น stages ผ่านการ partition โมเดลตามช่วง layer แล้วส่งต่อไปยังเครื่องในเครือข่ายแบบ pipeline ผู้ใช้สามารถเรียกใช้โมเดลผ่าน OpenAI client ที่ตั้งค่าเป็น http://localhost:9337/v1 ได้โดยไม่ต้องรู้ว่าโมเดลประมวลผลที่ไหน ระบบยังรองรับการฝึกโมเดลและปรับแต่งการใช้งานได้โดยตรง รวมถึงการแชร์ทรัพยากรการประมวลผลแบบ private หรือ public ได้ตามความต้องการ

AIMesh LLMDecentralized Computing

อ่านต่อ →

Hacker News·12 ก.ค. 2569

Token Time: แอปติดตามโทเคน AI แจ้งเตือนเต็มหน้าจอ ไม่ต้องสมัครสมาชิก

Token Time แอปสำหรับ macOS 13+ บน Apple Silicon ติดตามการใช้โทเคน AI แบบเรียลไทม์ พร้อมแจ้งเตือนเต็มหน้าจอเมื่อใช้ครบ 100 ล้านตัว แสดงข้อมูลการใช้โทเคนทันทีผ่านแถบเมนู macOS ไม่ต้องเปิดแดชบอร์ด แอปแยกแสดงการใช้โทเคนรายชั่วโมง พร้อมเปรียบเทียบค่าใช้จ่ายกับฐานข้อมูลมาตรฐาน ผู้ใช้ตั้งค่าแจ้งเตือนทุก N ล้านโทเคนได้ตามความต้องการ ข้อมูลทั้งหมดเก็บในอุปกรณ์ท้องถิ่น ไม่มีการส่งข้อมูลไปยังเซิร์ฟเวอร์หรือคลาวด์ ไม่ต้องสร้างบัญชี ไม่ต้องเชื่อมต่อกับเครือข่ายใดๆ ขายในราคา $6 แบบ one-time เน้นความเป็นส่วนตัวสูงสุด ตัวแอปทำงานเงียบๆ ที่พื้นหลังและแสดงข้อมูลผ่านไอคอนในแถบเมนู พร้อมแสดงกราฟการใช้โทเคนรายชั่วโมงและค่าใช้จ่ายทันทีเมื่อคลิกไอคอน Token Time ออกแบบมาเพื่อช่วยผู้ใช้ติดตามการใช้โทเคน AI อย่างละเอียด โดยไม่ต้องเปิดแอปเพิ่ม แจ้งเตือนเต็มหน้าจอจะแสดงทุกครั้งที่ใช้โทเคนครบ 100 ล้านตัว พร้อมอัปเดตค่าใช้จ่ายแบบเรียลไทม์แยกตามโมเดล AI ข้อมูลทั้งหมดเก็บในอุปกรณ์ท้องถิ่น ไม่มีการส่งข้อมูลไปยังภายนอก ตัวแอปทำงานแบบไม่รบกวนผู้ใช้ พร้อมแสดงข้อมูลทันทีผ่านไอคอนในแถบเมนู macOS ไม่มีการติดตามข้อมูลผู้ใช้หรือการอัปโหลดข้อมูลใดๆ ออกนอกเครื่อง

แอป AIการติดตามโทเคนความเป็นส่วนตัว

อ่านต่อ →

ข่าวรอบโลก

ChatGPT 5.6 ปะทะ Claude Fable 5: AI แข่งหมากรุกสด ปรับตัวทันทีหลังแพ้

AI ค้นพบช่องโหว่ Linux 15 ปี ชื่อ GhostLock ด้วยเครื่องมือ VEGA

Mesh LLM: ระบบ AI กระจายศูนย์ลดต้นทุน 50% ผ่านเครือข่าย GPU ของผู้ใช้เอง

AgentTransfer: เครื่องมือถ่ายโอนไฟล์แบบ Open-source สำหรับ AI agent ที่ไม่ต้องใช้คนกลาง

ผู้ใช้ qMLX แก้ไข 3 บั๊กสำคัญ ทำให้ Qwen3.5-122B ทำงานลื่นไหลบน Mac Studio

Anthropic เปิดตัว Claude Opus 4.8 ทำคะแนน SWE-bench 78% นำงาน coding ด้วยวิธีการฝึกอบรมใหม่

UN จัดทำกรอบงานระดับโลกเพิ่มความน่าเชื่อถือ AI agents

Mercor ซื้อบริษัท Deeptune สร้างสภาพแวดล้อมฝึก AI จำลองงานจริง

Token Time: แอปติดตามโทเคน AI แจ้งเตือนเต็มหน้าจอ ไม่ต้องสมัครสมาชิก

Meta ระงับฟีเจอร์ AI สร้างภาพปลอมบน Instagram หลังวิจารณ์หนัก

นักพัฒนาสร้าง MCP ระบบโอเพนซอร์สเพื่อลด Token หน้าเว็บที่ใช้ JS และป้องกันบอท

Qualcomm เปิดตัว GenieX ระบบ AI แบบ On-Device บนชิป Snapdragon หลังเข้าซื้อกิจการ Nexa AI

ชายใช้ Codex ยื่นอุทธรณ์หลังถูก OpenAI แบน ได้รับอนุญาตภายใน 10 นาที โดย AI ทำหน้าที่ทั้ง 4 ขั้นตอน

Digiton Dynamics ใช้ launchd แทน n8n และ Docker จัดการ AI agents 10 ตัวแบบไม่มี dependency

Meta เริ่มผลิตชิป AI รุ่นใหม่ในเดือนกันยายน ร่วมมือ Broadcom-TSMC ลดต้นทุน GPU

Meta เปิดตัว Muse Spark 1.1 ขาย API ครั้งแรก แต่ไม่รองรับผู้ใช้ไทย

Ivy League ตรวจพบการใช้ AI โกงสอบ คะแนนลดลง 50% หลังเปลี่ยนเป็นสอบตัวต่อตัว

Skillburst เปิดแพลตฟอร์มจัดการ AI workflows ไม่ต้องเขียนโค้ด แก้ปัญหาการสูญเสียข้อมูลในทีม

OpenAI พบ 30% ของ SWE-Bench Pro ไม่สมบูรณ์ ชี้ต้องตรวจสอบผลลัพธ์อย่างรอบคอบ

OpenAI เปิดตัว GPT-Live รุ่นใหม่ที่พูดคุยได้คล้ายมนุษย์มากขึ้น

OpenAI เปิดตัว GPT-Live ระบบเสียง full-duplex ให้ ChatGPT พูดคุยคล้ายมนุษย์

SpaceX เปิดตัว Grok 4.5 ราคาถูกกว่าคู่แข่ง 50% อาจเปลี่ยนเกม AI

IEEE เปิดหลักสูตร LLM สำหรับนักพัฒนา ตอบโจทย์ทักษะใหม่ด้าน AI

Google เพิ่มฟีเจอร์ Background Tasks และ Remote MCP ใน Managed Agents ของ Gemini API

Meta เปิดตัว Muse Image และ Muse Video โมเดล AI สร้างภาพ-วิดีโอ คว้าอันดับ 2 บน Arena

Anthropic ถูกแบนจาก comma_ai หลังมีความเสี่ยงด้านความเป็นอิสระทางดิจิทัล

Reddit ใช้ LLMs ต่อสู้กับสแปมที่ LLMs สร้างเอง ลดการสัมผัสสแปมของผู้ใช้ 20%

Apple เปิดตัว iOS 27 beta 3 ปรับแต่งความเร็วและน้ำเสียง Siri ได้แล้ว

Doubao และ Qwen ยุติ AI Agents วันที่ 15 กรกฎาคม ตามมาตรการใหม่ของจีน

BIS ชี้ AI bubble อาจระเบิดกระทบเศรษฐกิจโลก หลังลงทุนเกินจริง