پردازشگر گرافیکی H200 بر اساس معماری Hopper NVIDIA ساخته شده است. این معماری برای هوش مصنوعی، HPC و تحلیل داده‌ها طراحی شده و شامل چندین جزء نوآورانه است. هسته‌های تنسور: H200 مجهز به هسته‌های تنسور نسل چهارم است که برای عملیات ماتریسی حیاتی در یادگیری عمیق بهینه شده‌اند. این هسته‌ها از فرمت‌های دقت ترکیبی (FP8، FP16، BF16، INT8) پشتیبانی می‌کنند و تعادل بین کارایی (Performance) و دقت (Precision) را برقرار می‌کنند. موتور ترنسفورمر: ویژگی برجسته معماری هاپر، موتور ترنسفورمر است که مدل‌های مبتنی بر ترنسفورمر، مانند پردازش زبان طبیعی (NLP) و هوش مصنوعی مولد (Generative)، را با تغییر پویا بین فرمت‌های FP8 و FP16 تسریع می‌کند. حافظه HBM3e: پردازنده H200 اولین پردازنده گرافیکی است که از حافظه HBM3e با ظرفیت ۱۴۱ گیگابایت و پهنای باند ۴.۸ ترابایت بر ثانیه استفاده می‌کند، که نسبت به H100 با ۸۰ گیگابایت HBM3 و ۳.۳۵ ترابایت بر ثانیه بهبود چشمگیری دارد. NVLink 4.0: با پهنای باند تا ۹۰۰ گیگابایت بر ثانیه بین پردازنده‌های گرافیکی، NVLink 4.0 ارتباط کارآمد در تنظیمات چندپردازنده‌ای (Multi-GPU) را تضمین می‌کند، که برای آموزش توزیع‌شده حیاتی است. پردازنده چندنمونه‌ای (Multi-Instance GPU): فناوری MIG امکان تقسیم یک پردازنده گرافیکی به نمونه‌های مجزا را فراهم می‌کند و استفاده از منابع را در محیط‌های چندکاربره بهبود می‌بخشد.
