Создайте новое изображение 200x200 пикселей. Заполните его белым цветом. Примените Filter > Render > Difference clouds два-три раза. Затем подгоните контрастность изображения примерно так как на нижерасположенном рисунке.

Теперь примените Filter > Render > Lighting effects с такимим параметрами:

Применим фильтр Filter > Brush strokes> Accented edges с параметрами:

Получившийся слой можно накладывать на ваши работы для получения эффекта пламени. Режим наложения слоя может быть различным, но предпочтительнее Hard Light.