МЕЖА КІЛЬКІСНОГО ВИЗНАЧЕННЯ (Limit of Quantitation, LOQ) — найменша концентрація речовини (аналіту), яка може бути визначена з прийнятною відтворюваністю і правильністю результатів аналізу за регламентованих умов методу. М.к.в. аналіту, яка враховує вимоги стосовно відтворюваності результатів аналізу, можна оцінити за статистичними характеристиками даних градуювального графіка. За значеннями величин відгуків аналітичної властивості Y у межах градуювальної кривої Y = a + bС і нижче розраховують: 1) теоретичне значення результатів аналізів С = (Y — a)/ b; 2) стандартне відхилення SDc і відносне стандартне відхилення RSD результатів аналізів: RSD=(SDc∙100)/С. Потім за залежністю RSD=f(С) встановлюють концентрацію аналіту Ср, яка відповідала допустимій величині RSD, зазначеній у тестованій методиці. Ця концентрація Ср і є межею кількісного визначення, яка враховує вимоги до RSD.
Значення стандартних відхилень результатів аналізів SDc за умов N — 2 числа ступенів свободи розраховують за формулою:
SDc = SDo/ b∙ [1/N + 1/m + (SDb/b)2∙(Ys –Y)/ SDo)2]1/2,
де SDo — стандартне відхилення лінійної залежності (градуювальної кривої); N — кількість експериментальних точок градуювальної прямої; Ys — величина відгуку; m — кількість паралельних визначень; b — нахил градуювальної прямої і SDb — його стандартне відхилення; Y = Yі/ N — середнє значення відгуку всіх експериментальних точок, які використано для побудови градуювальної прямої. Цей спосіб оцінки М.к.в. найбільш ефективний при валідації (перевірці придатності) методик. При тестуванні валідаційної характеристики «правильність» аналізують низку розчинів з точно відомим вмістом аналіту у передбачуваному діапазоні дії методики. Одержані дані можна розглядати як точки градуювальної прямої, а отже, одночасно з оцінкою правильності знаходити інші валідаційні характеристики, у т.ч. М.к.в. Міжнародна конференція з гармонізації (ІСН) рекомендує декілька способів оцінки LOQ для методик визначення вмісту домішок, однак жоден із способів не враховує вимоги стосовно прийнятної відтворюваності результатів аналізів, в т.ч. спосіб оцінки LOQ з використанням градуювальної прямої: LOQ = 10 (SD/b), де b — нахил градуювальної прямої; SD — стандартне відхилення сигналу.
Доерфель К. Статистика в аналитической химии. — М., 1994; International Conference on Harmonization (ICH) of Technical Requirements for the Registration of Pharmaceuticals for Human Use, Validation of analytical procedures: Methodology ICH-Q2A, Geneva (1995); International Conference on Harmonization (ICH) of Technical Requirements for the Registration of Pharmaceuticals for Human Use, Validation of analytical procedures: Methodology ICH-Q2B, Geneva (1996); Reviewer Guidance: Validation of Chromatographic Methods. Center for Drug Evaluation and Research (CDER), Washington (1994); Skoog D.A., West D.M., Holler F.J. Fundamentals of analytical chemistry. — New York, 1997.