Есть строка
var stroka = "sdS(FDF(SDFDFH)ASA)DA"
В ней присутствуют четыре круглые скобки — две правые две левые. Как поменять их на квадратные?
Можно, например, проверять условие по каждому символу.
Шаг № 1 — Строку превращаем в массив
[...stroka]

Шаг № 2 — Пробегаем по каждому элементу и проверяем условие
[...stroka].map(i=>{if(i=="("){return "["}else if(i==")"){return "]"}else{return i}})
Условие отдельно выглядит так:
if( i == "(" ) {return "["} else if( i == ")" ) {return "]"} else {return i}

Шаг № 3 — Массив превращаем в строку
[...stroka].map(i=>{if(i=="("){return "["}else if(i==")"){return "]"}else{return i}}).join("")
Нам вернётся:
"sdS[FDF[SDFDFH]ASA]DA"
Функция замены всех круглых скобок на квадратные в строке
function repChar(str){ return [...str].map(i=>{if(i=="("){return "["}else if(i==")"){return "]"}else{return i}}).join("") }
Функция принимает строку. Затем она заменяет скобки. Потом возвращает новую строку с квадратными скобками.
Информационные ссылки
Стандарт ECMAScript — https://tc39.es/ecma262/multipage/