В марте в научном журнале Nature была опубликована информация о том, что современные крупные языковые модели всё чаще применяются не только для написания научных публикаций, но и для их рецензирования. Такой подход вызывает определённые опасения: с одной стороны, модели показывают высокую скорость обработки информации и впечатляющую эрудицию, а с другой — часто страдают недостаточной глубиной критического анализа, отсутствием заинтересованности живого человека, а также могут допускать галлюцинации и простые ошибки.

Тем не менее, реалии научной среды таковы, что использование языковых моделей остаётся очень удобным инструментом, который трудно игнорировать. Один из научных авторов и экспертов в области искусственного интеллекта, физик-теоретик Марат Хамадеев, проанализировал, насколько целесообразно делегировать процесс рецензирования таким моделям и возможно ли в теории отследить сгенерированные ими отзывы.

Источник: @nplusone