Из http://www.shortcourses.com/editing/edit-03.htm :
"Artistic Evolution uses a high mutation rate to generate unbelievable effects and strange modifications of your images. At the end your photo may look like a sketch or a painting in some strange artistic style or like a landscape seen through the eyes of an alien."

Общеупотребительный термин для "artistic evolution" вряд ли найдется - программы обработки изображений, реализующих генетические алгоритмы, ИМО, не очень распространены, а судя по Интернет данный термин характерен только для PhotoGenetics. Тем не менее, "evolution" - "эволюция" мне кажется вполне подходящим переводом с учетом принципа, на котором основана программа.

В качестве дополнительной информации: в Photoshop есть группа фильтров "Artistic", которую в русских источниках называют "Имитация", а иногда "Художественные" (к сожалению, программы Photoshop с русским интерфейсом у меня нет - основываюсь только на информации из Интернет). Поэтому по аналогии можно предложить перевод "Начать имитационную эволюцию", хотя "художественная эволюция" мне нравится немного больше.

Амперсанд поставите там, где считаете нужным (например, "... &художественную ..."), но, естественно, нужно учитывать, чтобы горячие клавиши не повторялись в одном меню.