OpenAI فیلتر حریم خصوصی برای شناسایی و حذف اطلاعات شخصی (PII) را راهاندازی کرد
Caroline Bishop ۱۴۰۵/۰۲/۰۴ ۱۵:۲۷
OpenAI فیلتر حریم خصوصی را رونمایی کرد؛ مدلی برای شناسایی و حذف PII با دقتی در سطح پیشرفته. هماکنون برای توسعهدهندگان در دسترس است.
OpenAI فیلتر حریم خصوصی را معرفی کرده است؛ مدل جدید هوش مصنوعی با وزنهای باز که برای شناسایی و حذف اطلاعات شخصی قابل تشخیص هویت (PII) در متن طراحی شده است. این ابزار در ۱۴۰۵/۰۲/۰۳ منتشر شد و دقتی در سطح پیشرفته برای فرآیندهای حریم خصوصی ارائه میدهد و معیار جدیدی برای حفاظت از دادههای حساس تعیین میکند.
فیلتر حریم خصوصی با هدف رفع چالشهای دیرینه در شناسایی PII و فراتر رفتن از سیستمهای سنتی مبتنی بر قانون طراحی شده است. برخلاف ابزارهای قدیمی که برای فرمتهایی مانند شماره تلفن یا آدرس ایمیل به الگوهای قطعی متکی هستند، این مدل از درک زبانی پیشرفته برای تحلیل متنهای غیرساختاریافته و اتخاذ تصمیمات مبتنی بر زمینه استفاده میکند. برای نمونه، میتواند بین اطلاعات عمومی و خصوصی تمایز قائل شود؛ قابلیتی حیاتی در سناریوهای پیچیده حریم خصوصی.
یکی از ویژگیهای برجسته آن، توانایی اجرای محلی است؛ به این معنا که دادههای حساس میتوانند مستقیماً روی دستگاه کاربر پردازش شوند بدون اینکه به سرورهای خارجی ارسال شوند. این طراحی خطر افشای داده را کاهش میدهد و بهویژه برای برنامههای حساس به حریم خصوصی در صنایعی مانند بهداشت، مالی و خدمات حقوقی ارزشمند است.
این مدل برای استفاده در محیط تولید بهینهسازی شده و کارایی در هسته آن قرار دارد. میتواند تا ۱۲۸٬۰۰۰ توکن از زمینه را در یک پاس پردازش کند و همزمان نرخ دقت و بازیابی بالایی حفظ کند. در معیار پرکاربرد PII-Masking-300k، فیلتر حریم خصوصی به امتیاز F1 معادل ۹۶٪ دست یافت و در نسخه اصلاحشده مجموعه داده به ۹۷.۴۳٪ رسید. این امتیازها توانایی آن را در شناسایی نقضهای ظریف و پیچیده حریم خصوصی با به حداقل رساندن نتایج مثبت کاذب برجسته میکنند.
OpenAI مدل را تحت مجوز Apache 2.0 از طریق پلتفرمهایی مانند Hugging Face و GitHub در دسترس قرار داده و توسعهدهندگان را تشویق میکند تا آن را آزمایش، تنظیم دقیق و برای نیازهای خاص خود راهاندازی کنند. این مدل از هشت دسته PII پشتیبانی میکند، از جمله private_person، private_address، private_email و account_number. قابل پیکربندی برای فرآیندهای مختلف است و به کاربران امکان میدهد بر اساس اولویتهای عملیاتی خود، دقت و بازیابی را متعادل کنند.
علیرغم قابلیتهایش، OpenAI تأکید میکند که فیلتر حریم خصوصی یک راهحل مستقل برای انطباق با مقررات یا بررسی سیاست نیست. این ابزاری است که برای تکمیل استراتژیهای گستردهتر حریم خصوصی از طریق طراحی طراحی شده است. ممکن است مدل نیاز به ارزیابی یا تنظیم دقیق بیشتر برای تطبیق با صنایع، زبانها و قراردادهای نامگذاری مختلف داشته باشد.
این انتشار بخشی از تلاش گستردهتر OpenAI برای ارتقای حفاظت از حریم خصوصی مبتنی بر هوش مصنوعی است. این شرکت تأکید کرده که هدف این است که سیستمهای هوش مصنوعی از دادهها بیاموزند بدون اینکه حریم خصوصی فردی را به خطر بیندازند. OpenAI با متنباز کردن فیلتر حریم خصوصی، قصد دارد توسعهدهندگان و سازمانها را برای ادغام حفاظهای قوی حریم خصوصی در فرآیندهای کاریشان توانمند سازد.
فیلتر حریم خصوصی گامی مهم به جلو در فناوری حریم خصوصی است، بهویژه با توجه به اینکه صنعت هوش مصنوعی با نظارت فزایندهای درباره امنیت داده و شیوههای اخلاقی روبرو است. برای توسعهدهندگان و کسبوکارهایی که به دنبال تقویت قابلیتهای مدیریت PII هستند، در دسترس بودن این مدل فرصتی حیاتی برای پذیرش ابزارهای پیشرفتهای است که حریم خصوصی کاربر را در اولویت قرار میدهند.
منبع تصویر: Shutterstock- هوش مصنوعی
- حریم خصوصی
- openai
- pii
- امنیت داده








