Busque la solución a este problema , lo único que debemos hacer es seguir los siguientes pasos:
Primero: Importamos la imagen que queramos definir bordes redondeados ajustándole el ancho y altura para que se vea bien.
Segundo: Ajustamos el lienzo situándonos al Menú (Modificar / Lienzo / Ajustar Lienzo). De esta manera quitamos todos los bordes que se encuentres fuera del lienzo.
Tercero: Dibujamos un Rectangulo Redondeado que cubra el ancho y altura del lienzo, el color no importar no es necesario
Cuarto: Luego, seleccionamos el rectángulo que acabamos de colocar y vamos al menú (Edición / Cortar) para mover al portapapeles el mismo.
Quinto: Ahora seleccionamos nuestra imagen que deseemos enmascarar y vamos al menú (Edición / Pegar como máscara). De esta manera se pegará nuestro rectángulo redondeado como máscara.
Espero les haya servido mi aporte estare al tanto en cualquier duda.