Как увеличить значение ячейки в таблице на 1 с помощью JavaScript?

Вы не можете использовать ++ с вызовом функции, его можно применять только к переменной или выражению, которое ссылается на свойство объекта. Так что измени

tr.find(".qty").val() ++;

к

tr.find(".qty")[0].value++;

Индексирование объекта jQuery возвращает соответствующий элемент DOM. Это позволяет вам напрямую ссылаться на его свойство value, а не вызывать функцию.

Кроме того, при создании поля ввода вам необходимо задать ему начальное значение, чтобы вы могли его увеличить. Поставьте value = "0" в HTML.

$(document).ready(function() {
  $(document).on('click', '.btnaddstockTransfer', function() {
    var html = '';
    html += '<tr>';
    html += '<td><div class = "search-box"><input id = "stock" class = "form-control is-warning stock" type = "text" name = "stock[]" placeholder = "Search by name or code"><div class = "result"></div></div></td>';
    html += '<td><input class = "form-control qty" type = "text" name = "qty[]" required size = "2" value = "0"></td>';
    html += '</tr>';

    $('#stockTransfer').append(html);

    // Live Search 

    $(document).on('keyup input', '.search-box input[type = "text"]', function() {
      /* Get input value on change */
      var inputVal = $(this).val();
      var resultDropdown = $(this).siblings(".result");
      if (inputVal.length) {
        //just dummy data for example purposes:
        resultDropdown.html("<p>Result 1</p><p>Result 2</p>");
        /*$.get("backend-search.php", {
          term: inputVal
        }).done(function(data) {
          // Display the returned data in browser
          resultDropdown.html(data);
        });*/
      } else {
        resultDropdown.empty();
      }
    });

    // Set search input value on click of result item
    $(document).on("click", ".result p", function() {

      var stock = $(this).text();
      console.info(stock);
      $(this).parents(".search-box").find('.stock').val(stock);
      var tr = $(this).closest("tr");
      $(this).parent(".result").empty();

      table = document.getElementById("stockTransfer");
      var rows = table.rows;
      for (var i = 1; i < rows.length; i++) {
        console.info(`row ${i}`);
        var cols = rows[i].cells;
        for (var c = 0; c < cols.length; c++) {
          console.info(`col ${c}, ${cols[c].innerText}`);
          if (cols[c].innerText == stock) {
            //return cols[0].innerHTML;
            tr.find(".qty")[0].value++;

          }
        }
      }
    })
  });
})

<script src = "https://cdnjs.cloudflare.com/ajax/libs/jquery/3.7.1/jquery.min.js"></script>

<button class = "btnaddstockTransfer" type = "button">
        Add stock transfer
    </button>
<div style = "overflow-x:auto">
  <table id = "stockTransfer" class = "table">
    <thead>
      <tr>
        <th style = "color:blue">Search Product's(Name/Code)</th>
        <th style = "color:blue">Quantity</th>

      </tr>
    </thead>
    <tbody>
      <tr>
      </tr>
    </tbody>
  </table>
</div>

Чтобы гарантировать, что дубликаты одного и того же элемента не добавляются в разные строки, а вместо этого увеличивается количество существующей строки, нам нужно изменить код, чтобы проверять, существует ли элемент в таблице, прежде чем добавлять новую строку. Если товар существует, мы просто увеличиваем количество существующей строки.

$(document).ready(function() {
  $(document).on('click', '.btnaddstockTransfer', function() {
    var html = '';
    html += '<tr>';
    html += '<td><div class = "search-box"><input id = "stock" class = "form-control is-warning stock" type = "text" name = "stock[]" placeholder = "Search by name or code"><div class = "result"></div></div></td>';
    html += '<td><input class = "form-control qty" type = "text" name = "qty[]" required size = "2" value = "1"></td>';
    html += '</tr>';

    $('#stockTransfer tbody').append(html);

    // Live Search 
    $(document).on('keyup input', '.search-box input[type = "text"]', function() {
      /* Get input value on change */
      var inputVal = $(this).val();
      var resultDropdown = $(this).siblings(".result");
      if (inputVal.length) {
        //just dummy data for example purposes:
        resultDropdown.html("<p>Result 1</p><p>Result 2</p>");
        /*$.get("backend-search.php", {
          term: inputVal
        }).done(function(data) {
          // Display the returned data in browser
          resultDropdown.html(data);
        });*/
      } else {
        resultDropdown.empty();
      }
    });

    // Set search input value on click of result item
    $(document).on("click", ".result p", function() {
      var stock = $(this).text();
      var tr = $(this).closest('tr');
      var qtyInput = tr.find('.qty');

      // Check if the stock item already exists in the table
      var exists = false;
      $('#stockTransfer tbody tr').each(function() {
        var currentRowStock = $(this).find('.stock').val();
        if (currentRowStock === stock) {
          exists = true;
          var currentQty = $(this).find('.qty').val();
          $(this).find('.qty').val(parseInt(currentQty) + 1);
        }
      });

      if (!exists) {
        $(this).parents(".search-box").find('.stock').val(stock);
        qtyInput.val(1); // Set default quantity to 1
      } else {
        tr.remove(); // Remove the newly added empty row if item already exists
      }

      $(this).parent(".result").empty();
    });
  });
});
</script>
<script src = "https://cdnjs.cloudflare.com/ajax/libs/jquery/3.7.1/jquery.min.js"></script>

<button class = "btnaddstockTransfer" type = "button">
  Add stock transfer
</button>
<div style = "overflow-x:auto">
  <table id = "stockTransfer" class = "table">
    <thead>
      <tr>
        <th style = "color:blue">Search Product's(Name/Code)</th>
        <th style = "color:blue">Quantity</th>
      </tr>
    </thead>
    <tbody>
      <tr>
      </tr>
    </tbody>
  </table>
</div>