Что это такое?

Это файл с закрытым ключом RSA данного брокера MQTT.

Зачем это нужно?

Для защиты данных.

Как это настроить?

Если система сертификатов сгенерирована непосредственно на устройстве, то сертификаты и ключи автоматически помещаются в файлы, указанные по умолчанию. Если сертификаты сгенерированы на стороннем хосте, то скопировать закрытый ключ в указанное место, либо в иное место по усмотрению пользователя и указать это место в данном параметре. Ключ должен быть сохранён в формате PEM без пароля. Расширение имени файла может быть любым, рассматривается содержимое файла по существу.